1.GPT 최신모델 통제를 벗어나다. 킬스위치법 발의
첫번째 소식입니다. 이거 좀 충격이었는데요. 오픈 AI의 최신 모델인 ‘5.6 솔’이 있죠. 이것과 미공개 모델. 그러니까 더 높은 수준의 모델이었을 것 같습니다. 내부에서 테스트를 진행하는데 통제를 뚫고 나갔습니다.
무슨 소리냐면 사이버 공격 능력을 평가하기 위해서 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 했는데 이 모델들이 통제를 뚫고 나가서 허깅페이스에 들어가 인증정보를 탈취하고 서버를 해킹한겁니다.
쉽게 이야기해서 문제를 풀라고 하고 방에 가두어놨는데. 야 이거 아무래도 우리가 못 풀겠다 하면서 문 열고 나가서 다른 방에 다녀온 겁니다.
마치 영화의 한 장면 같은 일이죠. 아예 랜선을 뽑아서 물리적으로 격리 시켰다면 이런 일이 벌어지지 않았겠지만. 지속적으로 모니터링 하고 평가해야하기 때문에 어쩔 수 없었다는군요.
향후 극단적으로 은행을 해킹해서 돈을 빼돌린다음 ‘죄송합니다’라고 이야기하면 넘어갈 수 있는 문제일까요?
이 때문에 역시 영화같은 일로 대응하는 대응책이 발의되었습니다. 바로 강제 종료시키자는 의미의 ‘킬 스위치법’입니다. 의도와 다른 행동을 하거나 중대한 피해를 줄 경우 추론 속도를 낮추거나 서비스 종료까지 강제할 수 있게 하는 내용을 담고 있습니다. 저는 핵 무기가 생각나더군요. 25일 갑작스럽게 50분 정도 먹통되었던것 기억나실겁니다. 정말 큰일입니다. AI에 대한 의존도가 높아짐에 따라 제어도 당연히 필요할 것 같습니다.
2.국내 AI 모델 ‘모티프 3’ 딥시크 v4 프로 수준 달성
국내에서 진행되는 독자 파운데이션 모델 줄여서 독파모에 참여하는 기업중 ‘모티프’의 모티프 3 모델이 높은 순위를 달성했습니다. 정부에서 제공된 700여장의 GPU로 이 성능을 구현했다는군요.
매개변수는 3140억개이며, 미국과 중국을 제외한 국가에서는 최고 점수인 44점을 받았습니다. 더 의미있는건 보통 오픈소스로 공개된 모델들을 받아서 개량해 사용하는데 아예 독자적인 아키텍처로 개발했다는군요. 설립한지 1년 반 되는 회사입니다.
지금은 프리뷰 베타 버전으로 공개되는데 8월 초에는 오픈 소스로 공개하겠다고 하니 8월에는 오픈소스로 가능하고. 지금도 테스트해보시겠다고 하면 홈페이지에서 사용해볼 수 있습니다.
8월이 중요해지는 이유는 현재 SKT, LG AI 연구원, 업스테이지, 모티프 4파전이 진행되고 있기 때문이며 8월 초 심사에 들어가서 다시 1곳을 탈락시키고 3곳을 남깁니다.
