의정부부장검사출신변호사 “내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’ > 자유게시판

의정부부장검사출신변호사 “내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’

페이지 정보

댓글 0건 조회 13회 작성일 26-09-09 15:00

본문

의정부부장검사출신변호사 미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났다.
월스트리트저널(WSJ)은 8일(현지시간) 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)이 AI 시스템 개발 경쟁을 벌이는 업계에 대해 이 같은 우려를 제기했다고 보도했다. 영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했다.
콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다.
콕슨은 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”며 “기업 간 경쟁은 물론 중국 신생 기업들과의 경쟁까지 치열해지는 상황에서는 안전을 위한 조치가 타협될 수밖에 없다”고 밝혔다.
콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했다. 그는 AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, 결국 정부의 개입이나 AI 업계 차원의 개발 속도 저하 없이는 인간을 능가해 다양한 작업을 수행하는 범용인공지능(GAI)를 책임감 있게 개발할 기업은 없다고 판단했다.
콕슨은 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실에 대해서도 “일종의 광기”라고 지적했다.
앞서 콕슨은 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 AI 업계 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다.
김승원 법무부 장관 후보자가 5일 ‘신약 임상시험 청탁 로비 의혹’을 거듭 부인했다.
김 후보자 인사청문 준비단은 이날 입장문을 내고 “일부 언론은 후보자가 ‘독약 로비’를 했다고 주장하지만 사실관계와 책임의 주체를 왜곡한 것”이라고 밝혔다. 제약사 제넨셀 측이 동물실험 자료를 누락·조작한 사실을 몰랐고, 임상시험계획 승인도 이례적으로 빠르게 이뤄진 것이 아니라는 해명이다.
준비단은 “김 후보자는 해외 임상시험에서 치료 효과가 있다는 자료를 검토한 뒤 국산 치료제의 임상시험 절차가 부당하게 지연되지 않도록 식품의약품안전처장에게 고충 민원을 전달했다”고 했다. 치료제 승인이나 심사 기준 완화를 요구한 것이 아니라 공정한 심사를 요청했다는 취지다.
이어 “후보자는 제넨셀 대표 강모씨가 일부 동물실험 자료를 누락·조작해 제출한 사실을 알지 못했다”며 “업체 관계자의 독자적인 범죄행위를 후보자에게 소급해 ‘독약의 승인을 받아낸 로비’라고 규정하는 것은 악의적 왜곡”이라고 했다.
제넨셀에 대한 식약처 심사가 이례적으로 빨랐다는 지적에 대해서도 신청부터 승인까지 걸린 33일에는 제넨셀이 보완자료를 준비한 기간이 포함돼 있으며, 이를 뺀 실제 심사 기간은 11일로 당시 코로나19 치료제 신속심사 목표인 15일 이내였다고 밝혔다.
김 후보자는 국회의원이던 2021년 10월 지인 양씨의 부탁을 받고 김강립 당시 식약처장에게 제넨셀의 코로나19 치료제 임상시험 신청을 신속히 처리해 달라는 취지로 연락했다. 약 2주 뒤 식약처는 임상시험계획을 승인했다. 이후 제넨셀 측이 동물실험에서 나타난 사망과 이상 증상을 누락·조작한 자료를 토대로 임상 승인을 받은 것이 드러나면서 김 후보자가 부정한 청탁에 관여한 것 아니냐는 의혹이 제기됐다.
김 후보자는 전날에도 청탁을 전달한 사업가 양모씨와 제넨셀 대표의 구속영장을 심사한 정모 판사를 함께 만났다는 의혹을 반박했다. 그는 “2022년 2월 사적 모임에서 두 사람을 우연히 마주쳤을 뿐이며, 해당 사건과 관련해 정 판사에게 연락하거나 부탁한 적이 없다”고 밝혔다. 정 판사는 약 1년10개월 뒤 제넨셀 대표의 구속영장을 기각했다.

이전글비아그라 판매처 후기만 믿으면 안 되는 이유 26.09.09
다음글아프로드F 여성 활력 제품, 가격보다 먼저 볼 정보 26.09.09

의정부부장검사출신변호사 “내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’ > 자유게시판

인기검색어

자유게시판

의정부부장검사출신변호사 “내년 말이면 AI 통제 불능 될 수도”···엔트로픽 연구원, 사표 내며 ‘경고’

페이지 정보

본문

회원로그인

사이트 정보

공지사항

접속자집계