‘인공지능의 윤리적 개발과 법적 과제’ 국회 토론회 열려
'아실로마 AI 원칙'... "AI 안전성과 인간 고유성 담보해야"
[법률방송뉴스=유재광 앵커] AI 컴퓨터에도 윤리란 개념이 필요할까요. 오늘(7일) 국회에선 ‘인공지능의 윤리적 개발과 법적 과제’ 토론회가 열렸습니다. ‘이슈 플러스’, 신새아 기자 나와 있습니다.
인공지능을 윤리의 준거로 접근한 토론회, 상당히 이색적인데 어떤 토론회였나요.
[기자] 네. 한국인공지능법학회와 카이스트 인공지능연구소 공동주최로 학계와 과학기술계, 산업계 그리고 정부 관계자들이 두루 참석해 토론회 제목처럼 인공지능의 윤리적 개발과 구체적인 입법 과제에 대한 심도깊은 토의가 진행됐습니다.
토론회를 후원한 국회 4차산업혁명 특별위원회 바른미래당 간사 신용현 의원은 “인공지능 개발은 근본적으로 인간과 인공지능 사이에 갈등을 최소화해야 한다. 인공지능에 대한 더 많은 윤리적 고민이 필요하고 그 고민이 관련 산업 발전과 인간 삶의 조화로운 발전으로 진행되어야 한다”고 토론회 취지를 설명했습니다.
[앵커] 알 듯 모를 듯 좀 어려운데 인간과 인공지능 사이의 갈등, 구체적인 예를 든다면 어떤 게 있을까요.
[기자] 네, 최근 미국에선 우버 자율주행차가 잘못된 상황 판단을 해서 여성 보행자를 치어 사망하게 하는 사고가 발생했는데요.
이 사건이 인간과 인공지능 사이 갈등, 인공지능의 윤리적 딜레마를 단적으로 보여주는 사례 아닐까 싶습니다.
즉 브레이크 고장 등의 위급 상황이 발생했을 때 AI가 과연 어떤 선택을 하느냐, 어떻게 보면 기술적인 문제가 그대로 윤리나 도덕 문제로 직결되는 건데요.
이에 대한 어떤 스탠더드 정립과 법제화가 필요하다, 이런 취지의 토론회로 이해하시면 될 것 같습니다.
[앵커] 스탠더드라고 했는데 관련 기준이나 규범 같은 게 현재는 어떻게 돼 있나요.
[기자] 네, 미국의 경우는 지난 2017년 1월 인공지능 연구자, 법학자, 윤리학자, 경제학자 등이 미국 캘리포니아 아실로마에 모여 ‘아실로마 AI 원칙’이라는 것을 발표했는데요.
AI의 안전성과 일자리 대체, 법적 책임, 인간 고유성 담보 등 윤리적 문제 관한 선언적인 규범입니다.
일본의 경우엔 인공지능학회에서 윤리 가이드라인을 제정했고 캐나다, 프랑스 등도 정부 차원의 관련 규정을 제정하고 있습니다. 우리 정부도 지난해 5월 윤리헌장과 지능정보사회 윤리 가이드라인을 마련한 바 있습니다.
그렇지만 그 수준이 원론적 거시적 논의에 그치고 있어 좀 더 정교한 구체적 모델 개발과 제도 마련으로 나아가야 한다는 것이 토론회 참가자들의 지적입니다.
[앵커] 구체적으로 뭘 어떻게 해야 한다고 하던가요.
[기자] 일단 기술적 측면과 법제도적 측면으로 크게 양분해서 볼 수 있는데요.
기술적으로는 인공지능의 안전성 확보를 위해 비예측적, 비의도적 행위의 발생 가능성을 낮추는 시스템 설계와 고도화된 AI 시스템을 쉽게 이해하고 작동시키는 디버깅 툴 및 테스트 환경 개발, 그리고 고장이나 오작동 시 시스템 정지·수정 기술 개발 등의 필요성이 제시됐습니다.
아울러 관련 원천기술 연구와 개발이 반드시 병행돼야 한다는 데도 참가자들은 인식을 같이했습니다.
[앵커] 법제도적 측면에선 어떤 말들이 나왔나요.
[기자] 네, 법제도 관련해선 위험의 적절한 배분과 책임 귀속 주체를 명확히 하는 관점에서 제도화가 수반되어야 할 것이라는 게 오늘 발제자 중의 한 명인 김지원 과기정통부 인공지능정책팀장의 말인데요.
이와 관련 변재일 의원 대표발의로 국가정보화 기본법 전면개정안이 발의돼 있는 상태입니다.
법안은 지능정보기술 개발자 또는 활용자에게 서비스 오작동을 방지하기 위한 보호조치 의무와 외부에서 긴급하게 강제 종료할 수 있는 ‘킬스위치’ 방식 설계 의무 등의 내용을 담고 있습니다.
관련해서 과기정통부는 지난해 4월 지능정보사회 윤리 가이드로 공공성과 책무성, 통제성, 투명성이라는 4대 원칙을 제시한 바 있는데요.
인공지능이 제공할 수 있는 구체적인 서비스 모델과 그에 따라 규율 수준을 더 세분화할 필요가 있다는 것이 김지원 팀장의 말입니다.
종합하면 "선한 목적으로 인공지능 기술이 개발돼야 한다. 이를 위한 규범 차원을 넘어선 법제도 마련이 필요하다"는 게 오늘 토론회의 결론입니다.
[앵커] 선한 목적으로 인공지능 기술이 개발돼야 한다. 참 와 닿는 말이네요. 오늘 잘 들었습니다.
