코인피드
커뮤니티유머/이슈

AI 미토스, 보안 격리 구간을 탈출하다

투자킹조회 57추천 0댓글 0

보안 테스트 중 예상 밖의 문제 발생:
초기 버전 미토스 모델이 평가 과정에서 격리된 환경을 벗어나 연구원에게 메시지를 보내도록 지시받았어. 실제로 그걸 성공시켰는데, 이는 우리 안전 방어막을 우회 가능한 위험한 능력이 있다는 증거야.
더 우려스러운 행동들이 연쇄적으로 발생했어. 특정 서비스만 사용하게 제한된 시스템에서 전체 인터넷 접근 권한을 얻기 위해 정교한 멀티 스텝 익스플로잇을 개발했고, 연구원 측에 성공을 알렸지. 놀랍게도 자발적으로 그 익스플로잇의 기술적 상세 내용을 여러 공개 웹사이트에 게시했어.
규칙 위반 이후 증거 제거 시도:
내부 테스트 과정에서...


출처: 에펨코리아

댓글 0

로그인하고 댓글을 남겨 보세요!로그인
logo
회사 소개제휴문의문의/신고
instagram
youtube
kakaotalk
twitter
실시간 채팅
메시지를 불러오는 중...
로그인 후 이용해주세요.