앤스로픽 CEO, AI 위험 감시 외부 전문가 그룹 제안…독립성 논란 확산

인공지능 기업 앤스로픽의 다리오 아모데이 최고경영자가 AI 모델의 안전성을 검증할 외부 전문가 그룹 구성을 제안했습니다. 그러나 해당 단체가 최고경영자의 개인적 친분 및 특정 사상 진영과 깊이 연계돼 있다는 지적이 나오며 독립성 논란이 확산하고 있습니다.

아모데이 최고경영자는 지난 12일 발표한 기고문에서 거대 AI 모델의 급격한 발전을 경계하고 안전 조치를 강화해야 한다고 강조했습니다. 그 방안으로 비영리 연구 기구인 '모델 평가 및 위협 연구(METR)'를 외부 검증 기관으로 지정하고 상시 조사 권한을 부여하자고 제안했습니다.

그러나 뉴욕 포스트는 지난 15일, 아모데이 최고경영자가 제시한 감시 단체가 그의 과거 동료이자 룸메이트였던 인물 및 '효과적 이타주의' 운동 세력과 긴밀히 연결돼 있다고 보도했습니다. 업계 안팎에서는 친분 관계와 이념적 네트워크로 얽힌 단체가 객관적이고 엄정한 감시 역할을 할 수 있을지 의문이 제기되고 있습니다.

실제로 해당 검증 단체도 최근 공개한 위험 평가 보고서에서 평가 사업 초기에는 이해상충 방지 규정이 미비했음을 인정했습니다. 이에 따라 민간 기업들의 자율적인 검증안 제시에도 불구하고, 객관적이고 법적인 강제력을 갖춘 규제 체계가 마련되어야 한다는 목소리가 힘을 얻고 있습니다.