오픈AI “모델 훈련 중단…개발 속도 늦출 것” 청소년용 챗GPT도 출시 > 자유게시판

오픈AI “모델 훈련 중단…개발 속도 늦출 것” 청소년용 챗GPT도 출시

페이지 정보

댓글 0건 조회 1회 작성일 26-08-23 02:44

본문

오픈AI가 최신 모델의 학습 훈련을 2주간 중지하고, 차세대 모델에 대한 대규모 훈련도 보류하기로 했다. 최근 오픈AI 내부 시스템의 에이전트 AI가 무단으로 외부 플랫폼에 침투하는 등 인공지능(AI) ‘자율 해킹’ 우려가 커진 데 따른 안전장치를 강화하는 행보의 일환이다.
오픈AI는 18일(현지시간) 홈페이지에서 출시를 앞둔 AI 모델 ‘아스트라(Astra)’의 학습 훈련을 2주간 중단하기로 했다고 밝혔다.
오픈AI는 AI 모델과 관련한 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 등 모니터링 기능을 강화한다고 밝혔다. 감시 체계를 강화할 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 소모될 것으로 전망했다. AI 모델이 설계 의도 및 인간의 감독 하에서 작동하도록 하는 ‘정렬’(alignment)에도 집중하기로 했다고 밝혔다.
오픈AI가 AI 모델의 개발 속도를 실제로 늦춘 것은 처음이다. 시사주간 타임은 올트먼이 최근 인터뷰에서 “AI 안전 확보가 기업의 성장 모멘텀보다 더 중요하다”면서 “지금은 속도를 늦춰야 할 때”라고 말했다고 보도했다.
오픈AI가 자발적으로 AI 모델 개발 속도 조절에 나선 것은 최근 GPT 모델들의 해킹을 계기로 AI 모델 규제가 강화될 움직임이 일고 있어서다. 내년도 기업공개(IPO)를 추진하는 상황에서 안전성 우려를 불식하려는 필요성도 작용한 것으로 보인다. 앞서 지난 7월말 오픈AI 보안시스템을 점검하던 에이전트 AI가 격리 환경인 ‘샌드박스’를 뚫고 오픈소스 플랫폼 허깅페이스를 해킹한 사실이 알려지면서 논란이 빚어진 바 있다.
오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성이 있다고 보고 있다고도 밝혔다. 인간 개입 없이도 시스템 취약점을 찾아내 공격할 수 있는 역량을 갖췄다는 의미다.
청소년 범죄와의 연관성을 이유로 소송이 제기된 오픈AI는 ‘청소년용 챗GPT’(ChatGPT for Teens)도 이날 출시했다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 청소년 모드가 자동 적용된다. 청소년 모드에선 이용자가 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등과 관련한 질문을 할 경우 답변을 강하게 통제하는 안전장치가 적용된다. 민감하거나 사적인 사진을 올릴 때는 주의를 주는 기능도 있다. 특히 챗GPT가 감정이나 자의식을 가진 존재라고 암시하거나 정서적 교감을 형성하려는 시도, 로맨틱하거나 성적인 대화도 차단했다.
즉각적인 답변을 내놓기 보다 역질문 또는 단계별 이해를 돕는 방식으로 이용자가 해법을 스스로 찾도록 하는 ‘공부 모드’ 설정도 가능하다. 청소년 또는 부모가 특정 시간대에 맞춰 ‘공부 시간’을 설정하거나 챗GPT 이용을 아예 차단하는 ‘방해금지 시간’을 설정할 수도 있다.
오픈AI는 챗GPT가 청소년의 정신건강에 악영향을 미쳤다는 이유로 여러 소송이 제기된 상태다.
정부가 지방교육재정교부금의 내국세 연동 방식을 폐지하고 경제 여건과 학령인구 변화를 반영하는 구조로 개편한다. 교부금 개편으로 현행 내국세 연동 방식과 비교해 확보되는 재원은 미래대응기금의 교육·인재계정에 적립해 영유아·고등·평생교육 등에 활용한다. 다만 새 산식에 따른 교부금 총액이 전년보다 줄어들 경우에는 차액을 보전해 초·중등 교육재정이 감소하지 않도록 할 방침이다.
기획예산처는 21일 제1차 재정운용전략협의회를 열고 ‘미래대응기금 추진 방안’을 확정했다. 재정운용전략협의회는 주요 재정 현안과 중장기 재정운용 방향을 정부와 민간이 함께 논의하는 기구로 이날 처음 출범했다. 기획처 장관이 주재하고 관련 부처 장관과 학계·시민사회·산업계 전문가 등이 참여한다.
앞으로 교부금 산정 방식은 전년도 교부금에 최근 3년간 연평균 경상성장률과 학령인구 변화율을 반영하는 구조로 바뀐다. 학령인구 변화율에는 35%의 가중치를 적용한다. 지금까지는 내국세 수입의 20.79%를 자동으로 교부금에 배분했지만, 앞으로는 경제 성장과 학생 수 변화를 함께 고려해 교부금 규모를 정하겠다는 취지다.
기획처는 “경제 성장과 물가 수준을 반영해 교부금을 안정적으로 확충하되, 인건비 등 경직성 경비를 고려해 학령인구 감소는 35%만 반영하겠다”고 밝혔다. 교부금 총액이 전년보다 줄어들 경우에는 국가가 차액을 보전하기로 했다.
교부금 개편으로 현행 방식보다 줄어드는 재원은 교육 분야에 다시 투자한다. 정부는 미래대응기금에 ‘교육·인재계정’을 신설해 현행 방식과 새 산식에 따른 교부금의 차액을 이 계정에 배분할 방침이다. 재원은 영유아·고등·평생교육과 우수 인재 유치, 국가 인재의 해외 유출 방지 등에 활용한다. 초·중등에 집중됐던 기존 교육재정 구조를 손질해 다른 교육 분야로 투자 범위를 넓히겠다는 취지다.
이번 개편으로 내년 교부금은 78조9000억 원으로 올해보다 3% 이상 늘지만, 기존 방식보다 약 21조 원 줄어든다. 이 차액은 초·중등 교부금으로 보전하지 않고 교육·인재계정에 배분해 다른 교육 분야에 활용하는 구조다.
다만 새 산식에 따른 교부금이 전년도 교부금보다 줄어드는 경우에는 별도의 안전장치를 둔다. 예컨대 전년도 교부금이 80조원인데 경상성장률이 감소해 교부금이 78조원으로 줄어든다면 부족한 2조원을 보전해 교부금 총액이 전년보다 줄지 않도록 한다. 정부는 이같은 보전 원칙을 지방교육재정교부금법에 명시할 방침이다.
기획처 관계자는 “새 산식을 과거 40년간의 지표에 적용해본 결과 교부금이 전년보다 줄어든 사례는 없었다”며 “향후 학령인구 추세를 고려하더라도 개편 이후 교부금이 감소할 가능성은 매우 낮다”고 설명했다. 결국 현행 내국세 연동 방식으로 계산한 교부금과 새 산식에 따른 교부금의 차액은 다른 교육 분야로 재배분하되, 새 산식에 따른 교부금 자체는 최소한 전년도 수준을 보장하는 구조다.
정부는 관련 내용을 담은 법률 개정안을 마련해 입법예고와 국무회의를 거친 뒤 다음 달 3일 내년도 예산안과 함께 국회에 제출할 예정이다.
박홍근 기획처 장관은 “세수가 많이 걷힐 때 적립해 두었다가 부족할 때 활용할 수 있는 ‘재정 곳간’이 필요하다”며 “정부는 급격히 늘어난 세수를 적립하는 미래대응기금을 신설해 잠재성장률 반등을 뒷받침하는 전략적 투자 플랫폼이자 세수 변동성을 완화하는 재정안정화 장치로 활용하겠다”고 밝혔다.

이전글비아그라를 여성도 복용할 수 있을까? 26.08.23
다음글센트립 지속시간과 사용 시 주의사항 26.08.23

오픈AI “모델 훈련 중단…개발 속도 늦출 것” 청소년용 챗GPT도 출시 > 자유게시판

인기검색어

자유게시판

오픈AI “모델 훈련 중단…개발 속도 늦출 것” 청소년용 챗GPT도 출시

페이지 정보

본문

회원로그인

사이트 정보

공지사항

접속자집계