오픈AI, 모델 개발 초기 단계부터 외부 기관 검증 추진 > 자유게시판

오픈AI, 모델 개발 초기 단계부터 외부 기관 검증 추진

페이지 정보

댓글 0건 조회 6회 작성일 26-09-27 17:08

본문

인공지능(AI) 모델의 안전성을 둘러싼 논쟁이 커지는 가운데 오픈AI가 앞으로 모델 개발 초기 단계에서부터 외부 기관에 평가를 맡기겠다고 밝혔다. AI 기업이 아닌 독립적인 기관 및 학계가 AI 시스템을 평가해야 한다는 목소리도 높아지고 있다.
오픈AI는 22일(현지시간) 블로그 게시글을 통해 모델 개발 초기 단계부터 외부 기관이 안전성 위험을 검증하는 체계를 마련하겠다고 밝혔다. 지금까지는 모델 출시 직전에 외부 기관에 성능 등을 중심으로 평가를 받았지만, 앞으로는 새 AI 모델의 훈련·평가·배포 단계에서부터 제3자 기관이 기술 안전성 평가를 수행하도록 한다는 계획이다.
오픈AI에서 안전성 검토 업무를 맡고 있는 라마 아흐마드는 이날 블룸버그와의 인터뷰에서 “AI 기술의 중요성과 파급력이 커지면서 (모델의) 배포 단계는 물론 학습 및 평가 단계에서도 안전성을 면밀히 검토할 계획”이라고 말했다. 그러면서 “강력한 독립 메커니즘, 과학적 엄격성, 굳건한 안전 관행, 명확한 책임”을 기준으로 제시했다.
AI 권위자인 리 페이페이 스탠퍼드대 교수 겸 월드랩스 창업자는 이날 블룸버그TV와의 인터뷰에서 AI 시스템 평가를 개발 기업에만 맡겨서는 안 된다면서 “독립적인 기관이나 학계 등 공공 부문의 평가(벤치마크)가 중요하며, 이는 산업과 정부가 공동으로 책임을 져야 하는 문제 믿는다”고 밝혔다.
그는 인간이 “기술의 힘을 소유하며, 통제해야 한다”면서 “AI는 AI가 아니라 인간에 관한 것이다. 우리의 개별적이고 공통적인 존엄과 주체성, 책임에 관한 것이기 때문”이라고 말했다. 또한 AI의 위험은 사람들이 기술을 개발, 관리, 사용하는 방식에 달려있다고도 말했다. 그는 AI의 성능과 역량이 개선되고 실생활에 적용되는 일이 늘어날수록 AI가 의도대로 행동하는 지를 결정하고 평가하는 일이 중요해진다고도 밝혔다.
김승연 한화그룹 회장이 22일 방산 산업의 핵심 생산 거점인 한화시스템 구미사업장을 찾아 기술 경쟁력을 점검하고 독보적인 국방 인공지능(AI) 역량 확보를 주문했다. 지난 1월 한화시스템 제주우주센터 방문에 이은 올해 2번째 현장 경영 행보다.
김 회장은 이날 경북 구미에 있는 한화시스템 구미사업장을 방문, 사업 현황을 보고받고 첨단 방산 제품 생산 시스템을 점검했다. 이 자리에는 김동관 수석부회장과 양기원 한화시스템 대표이사 등 주요 경영진이 함께했다. 한화시스템 구미사업장은 레이다·전자광학·함정전투체계 등 핵심 방산 전자 장비를 개발·생산하는 거점이다. 김 회장은 방명록에 “K-방산 AI 혁신의 출발점, 한화시스템이 대한민국 자주국방의 미래를 만들어 나갑니다”라고 적었다.
김 회장은 이후 임직원과 오찬을 함께하며 격려와 소통의 시간을 가졌다. 특히 미래 방산의 핵심 경쟁력으로 AI를 강조했다.
김 회장은 “한화그룹 방산의 경쟁력을 좌우하는 핵심은 AI이며, 그 중심 역할을 한화시스템이 맡고 있다”면서 “한화에어로스페이스와 한화오션이 만드는 육·해·공·우주의 핵심 전력을 AI 지휘통제 시스템으로 연결하는 한화시스템은 한화 방산의 두뇌이자 신경망을 책임지는 핵심 축”이라고 밝혔다.
이어 “한화시스템이 그룹 방산의 AI와 체계통합의 중심”이라며 “누구도 대체할 수 없는 독보적인 국방 AI 역량을 키워나가기를 바란다”고 말했다.
알리 알자이디 이라크 총리가 이란의 지원을 받는 이라크 내 시아파 민병대를 내년 6월까지 해산하겠다고 공언했다.
뉴욕타임스(NYT)는 21일(현지시간) 알자이디 총리와의 인터뷰에서 그가 “(시아파 민병대) 무장해제 계획은 선택사항이 아니라 필연”이라며 이같이 밝혔다고 보도했다. NYT는 알자이디 총리가 단계적 무장해제 계획을 구체적으로 밝힌 것은 이번이 처음이라고 전했다.
알자이디 총리는 시아파 민병대의 무장해제를 위해 그들과 위원회를 구성했고 구체적인 합의 조건을 오는 30일 발표할 예정이라고 설명했다. 알자이디 총리가 공개한 계획안에서는 우선 90일간 민병대가 공격을 중단하고 미군도 이들을 공격하지 않는 기간이 보장된다. 이후 민병대가 무기를 반납하기 시작해 2027년 6월30일까지 무장해제를 완료한다는 계획이다. 다만 민병대는 무장해제 기간을 2027년 말까지 연장할 것을 요구하고 있다.
이라크 시아파 민병대는 친이란 대리 세력으로 거론되며 이란 이슬람혁명수비대(IRGC)와 이라크 및 주변 중동 국가의 미군 시설 공격에 가담해온 것으로 알려져 있다. 최근 사우디아라비아의 석유 시설 공습의 배후로 이들이 지목되기도 했다.
이라크는 미국과 이란 사이에서 미묘한 균형을 유지하면서 아슬아슬한 외교를 펼쳐왔다. 안보·경제 분야에서 협력하는 미국에서는 친이란 무장세력을 무력화하라는 압박을 받고 있고, 이란은 이라크 내 대리세력 지원을 확대하고 미국·이란 전쟁 이후 중동에서의 영향력을 키우려는 움직임을 보이고 있다. 알자이디 총리는 지난 7월 도널드 트럼프 미국 대통령을 만난 뒤 연이어 마수드 페제시키안 이란 대통령과 회담하는 등 미·이란 전쟁을 중재하려고 애써왔다.
알자이디 총리의 시아파 민병대 해체 약속은 이번이 처음이 아니다. 그는 지난 6월 미국 이라크 특사와 낸 공동성명에서 올해 9월30일까지 이라크 내 모든 비정규 무장단체를 완전 무장해제·해산한다고 공언했다가 큰 반발에 부딪혔다. 논란이 커지자 이후 이라크 당국자들은 9월30일부터 무장해제를 시작할 수 있다고 번복했다.
알자이디 총리의 계획이 현실이 될지는 불확실하다. 당장 미·이란 전쟁의 향배가 가장 직접적인 변수로 거론된다. 이라크 고위 안보 당국자는 미·이란 사이에 평화협정이 체결되지 않는다면 계획은 실패할 것이라 경고했다고 NYT는 전했다.

이전글바데나필 효과시간과 복용법 - 레비트라 제대로 알아보기 26.09.27
다음글gummy-smile-correction 26.09.27

오픈AI, 모델 개발 초기 단계부터 외부 기관 검증 추진 > 자유게시판

인기검색어

자유게시판

오픈AI, 모델 개발 초기 단계부터 외부 기관 검증 추진

페이지 정보

본문

회원로그인

사이트 정보

공지사항

접속자집계