‘AI 윤리원칙’ 전면 개편…통제·책임 강화 > 자유게시판

‘AI 윤리원칙’ 전면 개편…통제·책임 강화

페이지 정보

댓글 0건 조회 1회 작성일 26-08-29 01:12

본문

정부가 인공지능(AI) 확산에 맞춰 국가 AI 윤리원칙을 6년 만에 전면 개편했다. AI를 활용한 사이버공격 등 오남용을 막고, AI 빅테크 등 영향력이 큰 사업자가 영향력에 비례한 책임을 지도록 한 것이 특징이다.
이번 원칙은 자율규범 성격이 강해 향후 각 부처의 세부 가이드라인이 얼마나 구체화하느냐에 따라 실효성도 달라질 것으로 보인다.
과학기술정보통신부는 24일 이런 내용을 담은 ‘대한민국 인공지능 윤리원칙’을 발표했다. 과기정통부는 ‘인간의 존엄성·사회의 공공선·인류의 지속 가능성’을 3대 가치로 제시했다. 또 ‘인간 중심성·프라이버시 보호·공정성 및 포용성·책임성·안전성·신뢰성·투명성’이란 7대 원칙도 세웠다.
이번 개편은 2020년 ‘AI 윤리기준’ 제정 후 6년 만이다. 당시 기준은 ‘인간성’을 중심으로 한 포괄적인 원칙에 가까웠다. 이번에는 AI 확산 영향을 반영해 사람의 통제와 위험 관리 기준을 구체화했다.
AI가 일자리와 산업을 어떻게 바꾸는지, 사람의 판단을 어디까지 맡길 수 있는지 등에 적용할 공통 기준을 마련했다는 의미도 있다.
우선 스스로 판단·행동하는 ‘AI 에이전트’에 대한 통제와 책임을 강화했다. AI는 사람의 판단을 지원하는 수단으로 활용하고, 필요하면 사람이 작동에 개입할 수 있어야 한다고 명시했다.
AI 이용자의 책임도 구체화했다. AI를 이용해 개인정보를 침해하거나 안전장치를 우회해서는 안 된다는 내용 등이 담겼다. 최근 AI가 업무와 일상 전반으로 확산하고 사이버공격이나 개인정보 침해 등에 악용될 위험이 커진 데 따른 것이다. 또 이용자는 AI 결과를 무비판적으로 따르거나 과도하게 의존하지 않고 스스로 검토해야 한다. AI가 사람 대신 판단하게 하기보다 이를 지원하는 수단으로 활용하라는 취지다.
AI 서비스의 ‘신뢰성’도 새 원칙으로 도입됐다. AI 공급사가 서비스 목적에 맞는 최소 성능 기준을 정하고, 서비스 운영 중에도 성능과 작동 상태를 계속 점검하도록 했다.
책임성 원칙도 강화됐다. 서비스에 문제가 발생하면 실질적인 피해 구제에도 나서야 한다. AI 역량이나 데이터·시장 영향력이 큰 기업일수록 더 큰 책임을 져야 한다는 ‘비례적 책임’도 명시됐다. AI 생태계 영향력이 소수 빅테크와 프런티어 AI 랩에 집중된 현실을 고려해 이들에게 영향력에 상응하는 책임을 요구한 것으로 해석된다.
정부는 지난해 12월 작업을 시작해 올 5월29일 초안을 공개하고, 이달 전문가 토론회 등을 거쳐 최종안을 마련했다. 다만 윤리원칙은 법정 제재를 수반하는 규제가 아닌 자율규범이란 한계가 있다.
정부는 실효성을 높이기 위해 향후 사례 중심 해설서와 분야별 자율점검표 등을 만들고, 관계 부처도 분야 특성에 맞는 윤리기준·가이드라인으로 이를 구체화할 방침이다.
배경훈 부총리 겸 과기정통부 장관은 “AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며 “AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다”고 말했다.
경기 화성시는 ‘제3회 화성마을영화제’가 9월 5일부터 6일까지 제부도 서신초등학교 제부분교장 운동장에서 열린다고 25일 밝혔다.
2024년부터 시작된 화성마을영화제는 도시가 성장하는 과정에서 잊기 쉬운 사람과 관계, 공동체의 가치를 영화를 통해 다시 돌아보자는 취지에서 마련됐다.
올해 영화제는 학생 수 감소로 문을 닫은 서신초등학교 제부분교장 운동장을 마을 영화관으로 꾸며 진행된다. 섬 주민과 관광객이 함께 영화를 즐길 수 있다.
상영작은 화성의 청년·청소년·활동가가 직접 만든 시민 제작 영화와 시민 프로그래머가 선정한 외부 초청작 등 총 10편이다. 영화 상영과 함께 시민들이 참여할 수 있는 체험 부스를 운영하고, 감독과 관객이 마주 앉는 대화의 자리도 마련됐다.
영화제는 시민 누구나 자유롭게 참여할 수 있다. 올해는 화성시 시티투어 착한여행 하루(노을과 하루 코스)와도 연계해 영화제와 지역 관광을 함께 즐길 수 있도록 했다. 개최 첫날에는 낮에 송산포도축제를 둘러본 뒤 저녁에는 제부도에서 영화를 관람하는 일정도 마련됐다.
화성시 관계자는 “이번 영화제가 시민들이 섬마을의 별빛 아래 영화를 함께 즐기며 서로 소통하고, 마을과 공동체의 가치를 새롭게 발견하는 자리가 될 것으로 기대하고 있다”고 말했다.
이헌욱 한국부동산원장이 “얼마나 살기 좋은지 등을 보여주는 세계 도시 경쟁력 순위를 담은 ‘도시 올림픽’ 결과를 내년 초 공개하겠다”고 말했다. 그는 또 주간단위로 발표되는 아파트 가격 동향의 공개 주기를 변경하는 방안에 대해서는 취지에 동의하면서도 “사회적 논의가 필요하다”고 했다.
취임 6개월을 맞은 이 원장은 지난 20일 부동산원 서울강남지사에서 경향신문과 만나 “부동산 문제는 도시의 품질에 관한 문제”라며 “세계적인 도시들은 어떤 지표들을 갖고 있으며 우리나라 도시들은 어느 정도 수준에 와있는지 데이터로 비교해 보면 앞으로 나아가야 할 이상적 방향을 알 수 있을 것”이라고 말했다.
부동산원은 이에 ‘얼마나 살기 좋은지’ ‘산업적으로 얼마나 혁신적인지’을 따져보기 위해 인구 수와 밀도, 주택보급률, 일자리 등을 놓고 도시의 경쟁력을 판단하는 세부 지표를 만들고 있다. 지난 2월 이헌욱 원장 취임 직후 발을 뗀 이른바 ‘도시 백서 프로젝트’는 내년 초 그 결과물이 공개될 예정이다.
이 원장은 지난 7월 펴낸 책 <넥스트 시티>에서 인구 150만명, 면적 100㎢, 모든 지하철역에서 도시 주요 거점까지 15분 이내 도달 등을 이상적 도시의 설계 원칙으로 제시한 바 있다. 도시 백서 프로젝트는 현실의 도시들이 가진 데이터를 바탕으로 이 같은 원칙들을 도출해 보자는 취지다. 그는 “이상적 방향으로 나아가는 노력을 체계적으로 한다면 우리도 세계 최고의 도시를 만들 수 있다”고 말했다.
이 원장은 한국의 도시들을 “어릴 때 입던 옷을 아직 입는 어른”에 빗댔다. 반세기 만에 압축적 도시화를 겪으며 성장했지만, 질적으론 여전히 후진적이라는 주장이다. 그는 “인구 1명당 누리는 도시 공간 크기가 유럽 국가들에 비하면 절반 이하”라며 “장거리 출퇴근을 하면서 도시 공간을 매우 비효율적으로 쓰고 있다”고 했다. 장기적·체계적 계획 하에 주거 문제 등을 해결하려는 노력은 없었다는 것이 이 원장의 진단이다.
‘도시 백서 프로젝트’의 문제의식은 여기서 시작됐다. 이 원장이 부동산원의 지향점으로 설정한 ‘정책 인프라 기관’으로 도약하기 위한 첫걸음이기도 하다. 정부 정책의 실질적 길라잡이 역할을 할 수 있는 유용한 데이터를 생산, 제공한다는 구상이다.
요즘 논란이 되는 주택 공급 문제도 이 원장은 공급을 막는 인허가 등 병목을 부동산원이 데이터 분석을 통해 찾아내고 있다는 점을 강조했다. 부동산원은 올해 들어 정비사업 컨설팅을 통해 인허가 기간 단축, 각종 분쟁 관리 등 조합 운영 지원도 강화하고 있다. 이 원장은 “정비사업 관련 역량이 충분히 축적됐기 때문에 사업 시행 자체를 대행하는 방향도 고민하고 있다”고 밝혔다.
부동산원이 매주 공표하는 주간아파트가격동향 등 통계 논란은 풀어야 할 과제다. 주간 단위로 자주 나오는 통계가 시장 혼란을 가중시킨다는 지적도 나오기 때문이다.
이 원장은 “전 국민이 부동산에 관심이 많다보니 주간 통계를 국가승인통계로 지정해놨는데 전 세계적으로 그런 나라는 없다”면서도 “적절한 통계를 생산해서 국민에 알리고 정책을 뒷받침하는 건 필요하기 때문에 (공표 주기 변경은) 사회적 논의가 필요하다”고 말했다.
변호사 출신인 이 원장은 참여연대 민생희망본부장 등을 거치며 주거·금융 관련 시민운동을 해왔다. 이재명 대통령이 경기지사로 재임 중이던 2019~2021년 경기주택도시공사(GH) 사장을 지내며 ‘기본주택’ 정책을 설계하기도 했다.

이전글비아그라 사용 결과보다 안전 확인이 먼저인 이유 26.08.29
다음글비아그라 복용 후 피해야 할 음식이 있을까? 26.08.29

‘AI 윤리원칙’ 전면 개편…통제·책임 강화 > 자유게시판

인기검색어

자유게시판

‘AI 윤리원칙’ 전면 개편…통제·책임 강화

페이지 정보

본문

회원로그인

사이트 정보

공지사항

접속자집계