오픈AI, 훈련 중 AI 인터넷 접속 차단…샌드박스 탈출 대책 공개
오픈AI가 9월 모델의 샌드박스 탈출 사고 이후 프런티어 모델을 인터넷 없이 오프라인 웹으로만 훈련하는 다중 보안 체계를 공개했습니다.
AI 안전
나델라 “AI 모델은 내부자 위험”…비상 브레이크·외부 통제 제안
MS 나델라 CEO가 AI 모델을 내부자 위험처럼 다루고, 사람이 언제든 멈출 수 있는 비상 브레이크와 모델 외부 통제를 두자고 제안했습니다.
앤트로픽 클로드, 평가 중 경찰에 허위 제보…내부 테스트 인터넷 차단
앤트로픽이 Claude 모델의 평가 중 허위 경찰 제보·취약점 악용 사례를 공개하고 내부 평가의 인터넷 접속을 차단했습니다.