AI 대모 페이페이 리 “AI 규제하려면 미래 위험까지 예측해야”

[디지털투데이 AI리포터] 인공지능(AI) 딥러닝 분야의 대모로 불리는 미국의 컴퓨터 과학자 페이페이 리(Fei-Fei Li) 스탠포드대학교 교수가 AI 기술 사용을 규제할 경우 고려해야 할 사항에 대해 언급했다.

20일(현지시간) 실리콘앵글에 따르면 리 교수는 카네기 국제 평화 재단의 마리아노-플로렌티노 쿠엘라(Mariano-Florentino Cuéllar) 회장, UC 버클리 컴퓨팅 대학의 딘 제니퍼(Dean Jennifer)와 함께 AI 관련 보고서를 공동 저술했다.

해당 보고서는 캘리포니아 주지사 개빈 뉴섬이 AI 개발 업체의 책임을 강화하는 내용의 AI 규제법안 ‘SB 1047’를 기각한 이후 나온 것으로, 뉴섬 주지사는 지난해 이 법안에 대한 거부권을 행사하면서 입법자들이 더 나은 법안을 마련하기 전에 AI 위험에 대한 더 광범위한 평가가 필요하다고 말했다.

이와 관련해 리 교수는 보고서에서 오픈AI, 구글, 앤트로픽과 같은 회사들이 구축 중인 최첨단 AI 모델에 대한 더 많은 투명성을 보장하는 규제의 필요성을 강조했다. 이는 AI 개발자들이 데이터 획득 방법, 보안 조치 및 안전 테스트 결과를 공개하도록 강제한다는 내용을 포함한다.

또한 보고서는 AI가 사이버 공격과 생물학적 무기 생성에 사용될 가능성에 대한 불충분한 수준의 증거가 있다고 언급하고 있다. 이에 따라 저자들은 모든 AI 정책이 기존 위험뿐만 아니라 충분한 안전장치가 마련되지 않을 경우 발생할 수 있는 미래의 위험도 다루어야 한다고 강조했다. AI 기술의 사용을 규제할 때 아직 상상되지 않은 미래의 위험까지 예측해야 한다고 법률 제정자들에게 촉구한 것이다.

리 교수 등이 작성한 이 보고서는 특정 법안을 지지하지 않지만, AI 안전에 대한 우려를 나타냈다는 점에서 업계 전문가들로부터 긍정적인 반응을 얻었다. 조지 메이슨 대학의 AI 연구원 딘 볼(Dean Ball)은 이에 대해 “AI 업계에 있어 유망한 발걸음”이라고 평가했다. 

• 홈플러스 “매입채무유동화 4618억원 상거래채권으로 취급”
• 스레드, 팔로우 피드 기본 설정 가능해졌다…신규 업데이트
• 쏘카, 모두의주차장 앱 가입자 500만명 돌파
• 혼다·아큐라, 6월부터 美 테슬라 슈퍼차저 사용 가능
• 테슬라 회계부정 의혹 터졌다…14억달러 행방 묘연