안전한 AI 시스템 위한 종합 지침 마련
포괄적 관리 범위 지정…지속 점검 및 고도화
카카오는 인공지능(AI) 기술 개발·운영 과정에서 발생할 수 있는 위험을 관리하는 체계인 ‘카카오 AI 세이프티 이니셔티브(이하 카카오 ASI)’를 구축했다고 23일 밝혔다.
카카오는 지난 22일 경기 용인 카카오AI 캠퍼스에서 열린 개발자 컨퍼런스 ‘이프카카오 2024’에서 이 같은 내용을 공개했다.
Kakao ASI는 AI 기술 개발 및 운영상 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애주기에서 발생할 수 있는 위험에 선제적으로 대응할 수 있는 것이 특징이다. AI와 인간이 초래할 수 있는 다양한 종류의 리스크를 폭넓게 관리하고 인간의 부주의나 실수로 발생할 수 있는 영역까지 관리 범위를 포괄적으로 지정했다.
Kakao ASI는 ▲Kakao AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스 등 3가지 핵심요소로 구성된다.
Kakao AI 윤리 원칙은 지난 2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로 윤리적인 가이드라인을 제공한다.
리스크 관리 사이클은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성된다. AI 기술의 비윤리나 불완전 등을 최소화하고, 안전성과 신뢰성을 확보할 수 있는 역할을 한다.
AI 리스크 거버넌스는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 내에서 관련 리스크를 다각도로 검토하게 된다.
카카오는 Kakao ASI 구축 후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별 및 대응하고, 관련 체계를 지속해 고도화할 계획이다.
카카오 김경훈 AI Safety 리더는 “AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체별 리스크의 특성을 반영해 평가 및 대응방안을 마련했다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점”이라며 “AI 기술의 영향력이 빠르게 확산되고 변화의 속도가 가속화되는 환경에 맞춰 안전한 AI 생태계 조성을 위한 협력을 이어갈 것이며, Kakao ASI를 통해 윤리 기준을 선도해 갈 수 있도록 노력할 것”이라고 말했다.
©(주) 데일리안 무단전재 및 재배포 금지
- 손 묶고 속옷 벗기더니 “빨리 끝내자”…막장까지 간 초등생
- 왜 명태균을 고소하지 않는 것일까? [양창욱의 야단법석(野壇法席)]
- “구조해 업고 내려온 등산객, 주차장서 두 발로 멀쩡히 걸어갑니다”
- ‘김건희 리스크’에도…무당층, 왜 민주당으로 안 가나
- 음식에 소변 탄 女가사도우미, 온 가족 간질환 걸렸다
- 해수부 “어가 직불금 접수 시작, 상·공업지역 어업인도 혜택”
- 최상목 “밸류업 흔들림 없이 추진”…취임 후 첫 ‘코리아 세일즈’
- 미국서 쓸만한 전기차 5종 추렸더니…현대차‧기아가 4개 부문 ‘싹쓸이’
- 잠실에 귀한 신축…’잠실 래미안아이파크’ 1순위 268.69대 1
- 아워홈몰, ‘김장대첩’ 기획전 진행…”최대 40% 할인”
