.svg)
AI 솔루션 문의하기
AI 윤리는 인공지능이 인간의 존엄성을 보호하고 사회적 공익을 증진하도록 하는 가이드라인입니다. 투명성과 공정성을 통해 신뢰할 수 있는 AI 생태계를 구축하기 위해 반드시 필요합니다.
AI가 인간을 위한 올바른 선택을 하고 있는가?
인공지능이 일상에 스며들면서 근본적인 질문을 하게 됩니다. AI 윤리는 이러한 질문에 답하기 위한 인류의 지혜로운 접근법입니다. AI 윤리란 인공지능 기술의 개발과 활용 과정에서 인간의 존엄성과 기본권을 보호하고 공익을 증진하기 위한 원칙과 지침을 의미합니다. 주요 원칙으로는 인간 자율성 존중, 피해 방지, 공정성, 투명성, 설명 가능성 등이 있습니다. AI 윤리는 AI 시스템이 인간에게 해를 끼치지 않고 공정하게 작동하며 그 결정 과정을 이해할 수 있도록 하는 것을 목표로 합니다.
한국에서는 2020년 12월 '사람이 중심이 되는 인공지능 윤리기준'을 마련했습니다. 이 기준은 인간성을 최고 가치로 설정하고 있습니다.
AI 윤리에서 중요한 건 당연히 '인간 중심'입니다.
AI가 아무리 뛰어난 성능을 보인다 해도 그 결정이 인간의 존엄성을 해치거나 기본적 권리를 침해해서는 안 됩니다. AI 채용 시스템이 성별이나 인종을 차별하지 않도록 하는 것, 자율주행차가 사고 상황에서 윤리적 판단을 내릴 수 있도록 하는 것 등이 AI 윤리의 실제적인 적용 사례입니다.
AI 시스템의 가장 큰 윤리적 도전 중 하나는 알고리즘 편향입니다. AI 편향은 인간의 편향으로 인해 원래의 학습 데이터나 AI 알고리즘이 편중되어 편향된 결과를 초래하며, 왜곡된 출력과 잠재적으로 유해한 영향을 미칠 수 있습니다. 편향의 원인은 크게 세 가지로 분류할 수 있습니다.
학습에 사용되는 데이터가 모델이 배포될 실제 인구나 상황을 대표하지 않을 때 발생하며 가장 일반적인 원인입니다.
알고리즘 설계 자체에서 발생하는 편향입니다. 의도치 않게 특정 그룹에 불리한 메트릭을 최적화하거나 모델 설계가 모든 사람에게 해당되지 않는 가정하는 경우입니다.
AI 기술에는 인간의 입력이 필요하며 실무자가 인지하지 못하는 사이에 개인적인 편견이 스며들어 데이터 세트나 모델 동작에 영향을 미치는 경우입니다.
미국 국립표준기술연구소(NIST)의 광범위한 테스트에 따르면 일부 얼굴 인식 기술은 피부가 어두운 여성의 경우 피부가 밝은 남성에 비해 정확도가 낮은 것으로 나타났습니다. 의료 분야에서도 여성이나 소수 민족에 대한 데이터가 부족하면 예측 AI 알고리즘이 왜곡될 수 있어 컴퓨터 지원 진단 시스템이 백인 환자보다 아프리카계 미국인 환자의 경우 정확도가 낮은 결과를 보이기도 합니다.
AI 윤리 구현의 가장 큰 걸림돌 중 하나는 AI 알고리즘의 설명 불가능성입니다. 딥러닝 알고리즘이 블랙박스와 같아 결과값 도출 과정을 설명할 수 없다는 것이 핵심 문제입니다.
투명성과 설명가능성은 AI 윤리의 핵심 요소입니다. 설명 가능한 AI(XAI) 기술을 사용하여 모델 행동을 이해하고 잠재적인 편향의 원인을 파악하는 것이 중요합니다. IBM은 신뢰할 수 있는 AI 시스템의 개발을 위해 공정성, 설명 가능성, 투명성 등에 대한 연구를 발표하고 AI 모델의 공정성을 검증할 수 있는 도구를 개발했습니다.
연구 현장에서는 설명가능성 확보를 위해 딥러닝 학습 과정에 설명 가능한 기술적 요소를 넣는 방안, 기술자만 이해할 수 있는 근거 알고리즘들을 서술화하기 위한 노력 등이 시도되고 있습니다. 이러한 접근도 어려울 경우를 위해 과거 사례와 비교해 결과값에 대한 근거를 추론할 수 있는 연구도 추진되고 있습니다.
AI 거버넌스에는 공정성, 형평성 및 포용성을 평가하는 방법이 포함되어야 합니다. 모델의 성별, 인종 또는 성적 지향과 같은 민감한 속성이 포함된 경우에도 모델의 의사 결정에서 편향을 식별하고 공평한 결과를 보장하는 접근 방식이 필요합니다.
국내외 기업들은 AI 윤리 실현을 위해 적극적인 노력을 기울이고 있습니다. 카카오는 국내 기업 최초로 '기술윤리 위원회'를 신설해 알고리즘 투명성 확보 및 AI 윤리규정 준수 여부를 체계적으로 점검하고 있습니다. 카카오 공동체 기술윤리 위원회는 AI 윤리규정 준수 여부와 위험성 점검, 알고리즘 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행합니다.
IBM은 '신뢰할 수 있는 AI'라는 명목 아래 다음 5가지 개념을 자사 인공지능의 핵심 역량이자 규율로 채택했습니다.
IBM의 오픈소스 기반 공정성 평가 도구인 AI Fairness 360은 2018년 9월 최초 릴리즈 이후 수차례 업데이트되었습니다. 이 도구는 공정성을 측정하고 편향성을 완화하기 위해 70개 이상의 공정성 지표와 11개의 편향 완화 알고리즘을 제공합니다.
캐나다 정부는 자동화된 의사결정의 공공 및 일상 부문 적용에 대비해 알고리즘의 투명성, 책무성, 입법성, 절차적 공정성 등에 대한 정책적 원칙을 가지고 있으며, 이를 지지하는 AIA(Algorithm Impact Assessment) 측정 도구를 제안하고 있습니다.
AI 기술의 발전 속도가 빨라지면서 각국 정부와 국제기구들도 AI 규제에 대한 논의를 본격화하고 있습니다. 유럽의회가 2024년 3월 13일 「AI법」을 가결했습니다. 이 법안의 주요 목적은 고위험 AI로부터 인간의 기본권과 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에 혁신을 촉진하고 유럽이 AI 분야의 선구자로 자리매김하도록 하는 것입니다.
한국지능정보사회진흥원은 「생성형 AI윤리 가이드북」을 발간하여 생성형 AI를 윤리적이고 생산적으로 활용하는데 참고할 수 있도록 지침을 제공했습니다. 이 가이드북은 저작권, 책임성, 허위조작정보, 개인정보·인격권, 오남용 등 핵심 윤리 이슈들을 다루고 있습니다.
국제적으로는 한국이 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안을 비롯해 유럽연합 등에서 다양한 윤리 원칙이 발표되고 있습니다. 윤리적 인공지능의 개발 및 활용에 국제사회가 협력하도록 노력해야 한다는 공감대가 형성되고 있습니다.
1) 데이터 관리
2) 책임성 확립
3) 안전성 보장
4) 투명성 강화
AI는 인간의 정신과 신체에 해롭지 않도록 개발되고 활용되며 개인의 윤택한 삶과 행복에 기여하고 사회를 긍정적으로 변화하도록 이끄는 방향으로 발전할 수 있습니다. AI 윤리는 인간 중심의 미래 사회를 만들어가는 방향성을 제시합니다. 투명성과 공정성을 기반으로 한 신뢰할 수 있는 AI 생태계 구축을 통해 우리는 기술의 혜택을 모든 인류가 공평하게 누릴 수 있는 사회를 만들어갈 수 있습니다.
.svg)
.svg)
