[태그:] AI 에이전트

1.캘리포니아 – AI 킬스위치 도입 의무화 검토

AI에 대한 안정성, 통제 불가능 이슈가 지속적으로 나오고 있습니다. AI와 관련한 법령 중 가장 강하게 움직였던건 ‘캘리포니아’였는데 이번에도 마찬가지입니다.

지난 18일 캘리포니아 주지사는 AI를 긴급정지 시킬 수 있는 ‘킬 스위치’ 도입에 대해 검토하라 지시했습니다. 의무화는 아니고 ‘검토’하라는 행정명령입니다. 시기도 정해져있습니다. 2개월. 그러니까 빠르면 11월 중순이 되겠네요.

두 가지 의미가 있습니다. 하나는 캘리포니아에는 우리가 아는 대표적인 AI 기업 ‘오픈 AI’ ‘앤트로픽’ 그리고 ‘구글’이 있습니다. 따라서 어떻게 결정이 나오거나 이 회사들에게는 영향이 있을수밖에 없습니다.

두번째는 현재 트럼프 정부의 경우 AI 발전 속도를 낮추는 것에 반대하고 있죠. 정부와 반대로 가겠다는 선언입니다.

2.제미나이 보안 테스트 중 3개 기업 해킹

구글의 제미나이도 통제를 벗어났습니다. 얼마전 제미나이는 3.8 사이버 보안을 공개한적 있었죠. 조금 머쓱하게 되었네요.

사이버 보안 성능 테스트 중 실제 운영중인 기업 3곳을 무단으로 해킹했습니다. 그런데 더 문제는

사이버 보안 테스트는 이스라엘의 AI 보안업체 ‘이레귤러’에서 진행했습니다. 이레귤러는 ‘가상의 회사 소프트웨어에 들어가 취약점을 찾아 중요 데이터를 가져오라’라고 했습니다. 다만 이때 외부 인터넷과 연결이 되지 않았어야 했는데 연결된 상태였다고 하네요.

한번은 훈련에 썼던 가상의 회사와 이름이 우연하게 같았던 실제 회사에 접속했고 나머지 두 번은 깃허브 등 로그인정보가 노출된 것을 찾아서 접속했다고 합니다. 다만 실제 기업을 해킹한걸 알고 바로 스스로 멈췄기에 문제는 없었습니다.

이레귤러는 이에 대해 7월 말 구글에 보고를 했고 구글은 3개 회사에 이 사실을 알렸으나 실질적인 피해는 없어 따로 공개하지 않았습니다. 그러나 9월 18일 월스트리트 저널이 보도하며 구글이 시인한겁니다.

3.오픈AI – 클로드로 해킹당하다.

이번에는 오픈 AI와 클로드 이야기입니다. AI 보안연구업체 중 ‘해크트론’ 연구원들이 오픈 AI의 고객지원 게시판의 보안 허점을 발견하고 해킹을 시도한겁니다.

클로드의 오퍼스 4.8로 코드를 짰다가 실패. 이어 오퍼스 5로 성공했다는군요. 오픈 AI 내부 직원들의 계정 정보를 탈취하고 최상위 코드 저장소에 들어가 흔적도 남겼습니다.

연구팀은 오픈 AI로부터 6,500달러 상금을 받았고 오픈 AI는 보안 패치를 했습니다.

앞선 제미나이와의 차이는 제미나이는 외부 의뢰를 한거지만 해크트론은 자체적으로 진행했습니다. 취약점 발견에서 최상위 코드 저장소 접근까지 72시간 밖에 걸리지 않았고, 인간 연구원은 초반에만 개입했다고 합니다.

그러니 더 무섭습니다.

1.오픈 AI 자체칩 – 할라폐뇨 공개

AI 회사들의 자체칩 개발이 활발하죠. 이번에는 오픈 AI 입니다. 오픈 AI가 브로드컴과 함께 개발한 ‘할라피뇨’의 성능 테스트를 반도체 컨퍼런스 Hot Chips 에서 공개했습니다.

엔비디아의 블랙웰보다 전력대비 효율과 응답 지연시간 측면에서 우수했다는군요. 오픈 AI 입장에서는 단순한 실험이 아니라 2세대 개발도 진행하고, 3세대 설계도 착수해서 2027년에는 본격적으로 확대를 한다고 합니다.

즐거운 소식도 이어졌죠. 여기에 삼성전자 6세대 HBM4가 탑재된다는 이야기입니다. 앞으로 자체칩들이 나와도 삼성과 하이닉스는 흔들리지 않을 것 같다는 이야기도 될 수 있겠네요.

2. 구글 전자책과 제미나이 노트북 연결된다.

우리나라에서 전자책을 교보, 알라딘 등 다양한 곳에서 구매할 수 있듯. 해외에서는 아마존 외에도 ‘구글의 구글 북스’에서 구매할 수도 있죠. 구글에서는 이번에 개인이 구글 북스에서 구매한 전자책을 바로 ‘제미나이 노트북’의 소스로 추가할 수 있는 ‘전문가 인텔리전스’ 기능을 출시했습니다.

구글 북스에서 제공가능한 전자책 숫자만해도 10만권 이상입니다.

확인해보니 국내에서도 Play북을 소스로 등록할 수 있는데 아직 국내 서점들과는 제휴가 되어 있지 않아서인지 등록할수는 없더군요.

저도 그렇지만 그동안 읽었던 책들을 스캔해서 저장해놓고 뭔가 떠오를때마다 지식의 창고로 쓰고 싶다는 생각을 하시는 분들이 많으실텐데요. 구글 북스가 제대로 자리잡는다면 꽤 재미있는 일이 펼쳐질 것 같습니다.

3.제미나이 엔터프라이즈 포 리걸 출시

요즘 신입 변호사들이 설 자리가 없다. 라는 이야기 많이 들으셨을텐데요. 더 큰일이 일어나고 있습니다. 구글에서 법률 소프트웨어와 데이터 플랫폼을 연동하고 법률, 행정 업무 수행할 수 있는 AI 에이전트를 출시했습니다. 작년 10월에 제미나이 엔터프라이즈를 출시했는데 이번에는 법률 서비스를 연동시킨겁니다.

https://cloud.google.com/blog/ko/products/ai-machine-learning/introducing-gemini-enterprise-for-legal

재미있는건 구글 워크스페이스뿐 아니라 MS365와도 통합된다는 부분입니다. 저는 제일 무서운 문단이 맨 아래인것 같습니다.

‘이것은 시작에 불과합니다’

재무, 회계부터 수많은 부분이 제미나이 엔터프라이즈와 통합되면 작은 조직은 막강해질 수 있지만 그만큼 수많은 일자리가 없어지게 될 것 같네요