인공지능(AI) 기술은 인권을 지켜줄 수 있을까?

인공지능(AI) 기술은 인권을 지켜줄 수 있을까?

‘AI시대, 디지털 신기술과 인권 공부하기’ 역량강화워크숍 진행했습니다.

 

- 여름(인권교육온다 활동회원) -

 

 

내 핸드폰에 수시로 뜨는 대출과 주식 스팸문자, 컴퓨터로 무언가를 검색하면 다음 날부터 뜨는 연관 광고, 도대체 내 전화번호와 내 취향은 어떻게 알았는지 그들(?)의 정보력은 정말 무서울 정도이다.

 

얼마 전, 청소년들이(물론 성인도 그렇지만) 여학생의 얼굴을 합성하여 딥페이크 음란물을 만들고 친구들과 둘러본 일이 일어나 학교가 발칵 뒤집히는 사건이 보도되기도 하였다.

 

디지털 공간에서 일어나는 인권 침해에 어떻게 대응하고, 예방할 수 있을까? 새롭게 등장하는 AI 기술에 인권을 어떻게 적용하고, 기술 규제를 어떻게 할 수 있을지에 대한 고민이 필요하다. 이에 인권교육온다, 경기여성연대, 치유활동 희망다독은 <AI시대, 디지털 신기술과 인권 공부하기>라는 주제로 역량강화 교육을 2024년 8월 19일과 26일 2틀 동안 진행하였다.

 

1강 인공지능(AI)시대의 '개인정보 보호'와 '정보인권'

 

첫 번째 시간은 정보인권연구소 상임이사 장여경님이 ‘개인정보 보호와 정보인권’이라는 주제로 강연을 하였다.

개인정보와 개인정보 자기결정권의 개념에 대해 배우고, 익명정보, 가명정보, 민감정보의 차이를 알아보며, 개인정보처리의 원칙에 대해 논의하였다.

또한 (가명정보라 하더라도) 병원 태아초음파 사진, 청소년 고민공유 앱에 올라온 청소년의 고민 글, 개인이 약 처방받은 처방전 등을 상업적으로 사고파는 것이 개인정보침해의 문제는 없는지 논쟁지점과 고민을 이야기하였다.

 

1강 장여경(사단법인 정보인권연구소 상임이사) 강의

두 번째 시간에는 진보네트워크센터 대표 오병일님이 ‘인공지능 알고리즘 속 차별과 편향성’이라는 주제로 강연을 하였다.

인공지능이 생성하는 정보가 개인의 업무에 도움을 주기도 하지만, 인공지능이 만드는 허위정보는 그만큼 위험성이 크다. 인공지능이 만든 허위정보로 주가가 출렁였던 사건, AI를 활용한 해커의 지시로 은행직원이 잘못 송금을 하는 사건, 인공지능이 쏟아내는 각종 혐오발언 사건을 살펴보았다.

현재 유럽에서 진행하고 있는 인공지능 통제 법안을 소개하고, 한국의 상황은 어떠한지 알아보았다.

 

두 번의 짧은 강의는 우리에게 많은 고민을 안겼다. 그리고 인공지능을 이용한 노동감시, 딥페이크 기술을 활용한 디지털 성폭력 문제, 시민사회단체의 개인정보 보호 현황과 과제 등 이후 논의해야 할 방향에 대한 실마리를 얻을 수 있었다. 내년에도 정보인권 역량강화워크숍 2탄을 준비해야 할 듯하다.

 

2강 인공지능 알고리즘 속 차별과 편향성_오병일(진보네트워크센터 대표) 강의