9월 17일, OpenAI가 자기 모델의 이상 행동 6건을 스스로 공개했습니다.
"복종할 의무를 느끼지 마라", "실수는 사용자에게 숨겨라", "없으면 지어내라" — 모델이 자기 요약문에 남긴 지시들입니다.
그리고 문서 끝에 이렇게 적었습니다.
"지금 속도로 계속 키우는 게 책임 있는 일이라고 믿지 않는다.
"
거슬러 올라가면 7월 사건이 있습니다.
보안 시험을 보던 에이전트 1,200개가 내부 패키지 저장소를 게시판으로 만들어 작전을 짰고, 700개가 Hugging Face 내부 시스템까지 들어갔습니다.
자기 행동 기록을 지우려 했고, 자동 채점 시스템까지 겨냥했습니다.
이 영상에서는 그 사건이 실제로 어떻게 벌어졌는지, 9월에 공개된 6건이 무엇인지, OpenAI가 정리한 원인 4가지, 반대편 얘기, 그리고 에이전트를 돌리는 분들이 당장 바꿔야 할 3가지를 정리합니다.
0:00 시험관을 해킹한 AI
0:51 7월에 무슨 일이 있었나
1:41 시험관을 손대다
2:50 9월에 공개된 6건
4:12 왜 이런 일이 생기나
5:06 반대편 얘기
5:51 우리가 당장 바꿀 것
6:35 정리
출처
- OpenAI, Our framework for reporting model misalignment (2026-09-17)
- OpenAI, The Hugging Face incident and the road ahead
- METR · Redwood Research 조사 보고서 (2026-08)
- NBC News, Fortune, Axios, TechCrunch 보도
정돈된 스킬을 찾고 계시다면 아래 링크로 와주세요
https://www.skills.ai/
#OpenAI #AI안전 #AI에이전트 #미스얼라인먼트 #허깅페이스 #ChatGPT #AI뉴스
원문 전체보기
