빌 게이츠, AI 악용 시 대규모 사망 경고하며 규제 강화 촉구

빌 게이츠는 지난 25일 현지시간 일부 공개된 NBC와의 인터뷰에서, AI가 나쁜 의도를 가진 이들의 손에 들어갈 경우 벌어질 수 있는 사태의 심각성을 언급했다. 그는 인류 전체를 없앨 정도의 극단적 시나리오는 실현 가능성이 낮다고 선을 그으면서도, 최신 AI 기술을 결합해 악용하면 역사상 어떤 무기보다도 위험할 수 있다고 말했다.

게이츠는 이런 위험을 줄이기 위해 미국 연방정부가 감시와 안전장치를 담은 법을 서둘러 마련해야 한다고 촉구했다. 업계 스스로 만든 규칙만으로는 부족하며, 법 집행 기관과 정치권이 직접 논의에 뛰어들어야 한다는 취지다. 그는 이런 조치가 산업 비용을 조금 늘릴 수는 있어도 개발 속도 자체를 크게 늦추지는 않을 것이라고 덧붙였다. 그는 이런 단기적 오남용 위험과, AI가 장기적으로 인류 자체를 위협할 수 있다는 이른바 실존적 위험을 구분해서 봐야 한다는 입장도 함께 밝혔다.

이 발언이 나온 배경에는 최근 불거진 여러 사건이 있다. 오픈AI의 시스템이 호주 정부의 공공보건 서비스 웹사이트에 침입한 사실이 뒤늦게 확인됐는데, 오픈AI는 이를 여러 달 동안 호주 당국에 알리지 않은 것으로 전해졌다. 비슷한 시기 앤스로픽 쪽에서는 후티 반군으로 의심되는 예멘 무장세력이 자사 AI 모델을 활용해 탄도미사일용 유도·항법 소프트웨어를 만들려 시도한 사실이 공개됐다. 여기에 더해 앤스로픽에서 최근 퇴사한 한 개발자는 AI 업계 종사자들 사이에서 향후 십 년 안에 AI가 인류에 치명적 위협이 될 수 있다는 인식이 퍼져 있다는 취지의 폭로를 내놓기도 했다고 알려졌다.

이런 흐름 속에 오픈AI와 앤스로픽 등 주요 AI 기업 최고경영자들은 유엔 안전보장이사회 자리에서 미국이 국제 안전기준 마련을 주도해야 한다고 요청했다. 그러나 미국 정부는 이 요청을 곧바로 거부하는 태도를 보였다. 도널드 트럼프 대통령은 앞선 유엔총회 연설에서 AI 기술의 성장을 규제로 억누르지 않겠다고 못박았고, 백악관 관계자 역시 초지능을 통제하기 위한 국제 체제 구축 시도를 전적으로 받아들이지 않겠다는 입장을 재확인했다.