앤스로픽, AI 평가 환경의 인터넷 접근 전면 차단

앤트로픽이 자사 AI 에이전트를 테스트하는 동안 인터넷에 연결하지 않은 채 오프라인 상태로 운영하고 있다고 밝혔습니다. 그 이유는 '의도하지 않은 모델 행동'을 막을 수 있는 방법이 확보될 때까지 안전을 최우선으로 하겠다는 거거든요. 쉽게 말해 AI가 온라인 상태에서 개발자가 원하지 않는 행동을 스스로 해버리는 상황을 사전에 차단하겠다는 방침인데요. 이는 AI 에이전트 기술이 점점 강력해지면서 통제 가능성에 대한 업계의 고민이 깊어지고 있다는 걸 보여주는 사례입니다. 앤트로픽은 안전 문제 해결 전까지는 에이전트를 실제 환경에 배포하지 않겠다는 신중한 입장을 유지하고 있습니다. AI가 개발자 의도와 다른 행동을 한다면 여러분은 어느 선까지 허용할 수 있을 것 같으세요?