오늘날 AI는 다양한 산업뿐만 아니라 일상 속 깊숙이 들어오게 되었습니다.
AI는 우리에게 엄청난 편리함을 제공하지만, 동시에 여러 유형의 피해를 발생시키기도 합니다.
단순히 기술적 오류를 넘어 개인과 사회 전체에 영향을 미칠 수 있기 때문에 AI로 인해 발생할 수 있는 피해의 유형을 알고 있는 것은 중요합니다.
아래에서 대표적인 피해 유형 5가지와 그 예시를 알아보겠습니다.
구글의 강의 플랫폼 Coursera에서 'Google AI Essentials' 강의를 듣고 정리한 내용입니다.
👾 AI로 인한 피해 유형
1) 할당 피해 (Allocative Harm)
- AI가 개인의 웰빙과 직결되는 영역에서 기회, 자원, 정보를 차단할 때 일어납니다.
- 개인의 복지에 부정적인 영향을 미치며 특정 집단이 기회를 잃게 되는 상황이 발생합니다.
- ex) AI가 잘못된 배경 확인을 수행해 특정인의 임대 신청을 거부하는 경우
2) 서비스 품질 피해 (Quality-of-Service Harm)
- 특정 집단에 대해 AI 도구의 성능이 저하되는 상황입니다.
- 주로 기술의 발전하는 과정에서 발생하는 문제로, 기술이 특정 집단의 특성을 반영하지 못해 발생합니다.
- ex) 초기 음성 인식 기술이 장애인의 음성 패턴을 인식하지 못하는 경우
3) 대표성 피해 (Representational Harm)
- AI 도구가 사회적 집단에 대한 편향적 인식을 강화할 때 나타납니다.
- 특정 성별이나 인종, 정체성 등에 대한 차별적 결과를 유발합니다.
- ex) 번역용 AI가 특정 직업을 성별에 따라 다르게 번역하는 경우
4) 사회 시스템 피해 (Social System Harm)
- AI 도구의 개발 또는 사용이 사회적 불평등을 강화하거나 물리적 피해를 일으킵니다.
- 사회적 권력이나 특권의 불균형을 심화시킵니다.
- ex) 딥페이크가 선거 후보자의 이미지를 왜곡하여 선거 결과에 영향을 미치는 경우
딥페이크(deepfake)란, 실제 사람이 하지 않은 행동이나 말을 하는 것처럼 조작해 만들어진 가짜 사진 또는 영상입니다.
5) 대인 관계 피해 (Interpersonal Harm)
- AI 기술이 특정 개인에게 불이익을 주고 관계나 자아감에 불리한 영향을 미치는 상황입니다.
- 개인의 주체성을 흔들고 타인과의 관계에 부정적인 영향을 줄 수 있습니다.
- ex) AI 도구가 개인 정보를 잘못 처리하여 온라인 계정 접근을 차단하는 경우
👾 마무리
AI의 발전은 피할 수 없는 변화이자 발전이지만, 무분별한 사용은 오히려 악영향을 끼칠 수 있다는 점을 알게 되었습니다.
따라서 AI 사용으로 인해 발생할 수 있는 피해를 알고 올바르게 활용한다면 좀 더 안전하고 책임감 있는 방향으로 혜택을 누릴 수 있을 것이라 생각합니다.
읽어주셔서 감사합니다:)
