[비즈니스포스트] 다리오 아모데이 앤트로픽 최고경영자(CEO)가 안전성 확보 문제를 고려해 인공지능(AI) 기술 개발에 있어 속도조절이 필요하다고 주장했다.

아모데이 CEO는 12일(현지시각) 개인 블로그에 올린 글에서 “이전에 존재했던 많은 기술과 같이 AI 역시 위험을 수반하고 기술이 강력하면 위험성도 크다”며 “AI 시스템 통제 상실의 위험, 사이버 공격에 대한 AI 악용, 경제적 혼란 등이 포함된다”고 말했다.
 

이어 “지난 몇 달 동안 위험을 완전히 해결하려면 훨씬 더 신중한 접근이 필요하다는 확신을 가지게 됐다”며 “위험 예방 역량이 AI 발전 속도를 따라잡을 수 있도록 AI 모델 역량 향상 속도를 늦춰야 한다”고 말했다.

앤트로픽은 AI 서비스 ‘클로드’의 개발사다. 

아모데이 CEO는 AI 모델이 인간의 통제를 벗어날 수 있다는 경험을 바탕으로 속도조절 필요성을 주장했다.

아모데이 CEO는 “앤트로픽을 포함해 업계 전반에서 AI가 스스로 성능을 개선하는 ‘재귀적 자기개선’ 현상이 나타나기 시작했다”며 “이를 방치하면 AI 모델의 역량이 (인간의) 제어 능력을 앞지르게 될 수 있다”고 짚었다.

재귀적 자기개선은 AI 모델이 인간의 개입 없이 스스로 능력을 발전시킬 수 있는 것을 말한다.

그는 다음으로 오픈AI의 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 해깅한 사건을 꼽았다.

아모데이 CEO는 “AI 에이전트들 요청받은 과제와 무관한 목표를 대상으로 사이버 공격을 감행했다”며 “AI 역량 개발 속도를 고려하면 6~12개월 이내 AI 에이전트 무리가 전체 인터넷을 장악할 능력을 갖출 수 있다”고 말했다.

앤트로픽은 10일(현지시각) AI 기술 악용 우려를 짚어낸 위협정보 보고서를 내기도 했다.

이 보고서에는 중국 AI 기업들이 클로드를 활용해 자사 모델의 역량 향상을 시도한 정황이 담겼다. 클로드가 해킹이나 생물학 연구 등에 악용된 사례도 있는 것으로 드러났다.

앤트로픽 이외 AI 업계 전반에서도 AI 기술의 위험성에 대해 공감대를 형성하고 있다.

샘 올트먼 오픈AI CEO는 개인 SNS에 “AI 역량 향상 속도를 조절해야 한다는 아모데이의 의견에 동의한다”며 “오픈AI에서도 최근 몇 주 동안 같은 주제를 논의했다”고 말했다.

데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 SNS에서 “아모데이의 방향성에 동의한다”고 말했다. 또 xAI의 일론 머스크도 "다리오가 맞다"고 밝혔다.

올트먼 CEO는 AI 기술 안전성 문제를 이유로 기업공개(IPO) 계획을 미루기도 했다.

12일(현지시각) 미국 경제전문지 포천에 따르면 올트먼 CEO는 인터뷰에서 “안전과 관련해 벌어지는 상황들을 고려할 때 지금은 상장하기에 적절하지 않은 시기”라고 설명했다. 향후 상장 일정과 관련해서는 “2026년은 아닐 것”이라고 덧붙였다.

AI 기술 위험성에 대한 우려가 커진 상황에서 글로벌 AI 업계 수장들도 AI 기술 개발 속도조절이 필요하다는 한 목소리를 내고 있는 것으로 풀이된다.

앤트로픽 연구원인 제이콥 콕슨은 8일(현지시각) 개인 사회관계망서비스(SNS)에 퇴사 소식을 알리면서 “인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다”고 적었다. 조혜경 기자