일본 도쿄 / MENA 뉴스와이어 / – 일본은 인공지능(AI) 위험에 대한 보다 폭넓은 국제 협력을 촉구하는 AI 기본 계획 개정안 초안을 발표했습니다. 이번 개정안은 사이버 공격, 모델 안전성, 허위 정보, 고성능 AI 거버넌스에 중점을 두고 있습니다. 일본 내각부는 6월 19일부터 23일까지 이 개정안에 대한 의견 수렴을 진행했습니다. 이번 개정은 일본 정부가 2025년 12월에 승인한 첫 번째 AI 기본 계획에 이은 것입니다.
이 초안은 에이전트형 AI가 정부, 기업 및 일반 대중이 직면한 위험의 복잡성을 증가시켰다고 지적합니다. 기술적 실패, 불분명한 책임, 노동 시장에 미치는 영향 및 국가 안보 위협을 예로 들고 있습니다. 특히 자율 AI 기반 사이버 공격에 주목하며, 이러한 공격은 알려지지 않은 소프트웨어 취약점을 찾아낼 수 있으므로 강력한 사이버 방어가 신뢰할 수 있는 AI 거버넌스 의 필수 요소라고 강조합니다.
일본의 계획은 해외 정부 기관, AI 개발업체 및 기타 관련 당사자와의 긴밀한 협력을 요구합니다. 이러한 조치에는 소프트웨어 공급업체에 대한 조기 경보, 취약점의 신속한 발견, 그리고 더욱 강력한 대응 시스템 구축이 포함됩니다. 또한, AI 모델의 사이버 보안 성능에 대한 평가를 강화할 것을 제안합니다. 이러한 조치들은 AI 혁신과 안전 관리를 조화시키려는 일본의 광범위한 노력의 일환입니다.
사이버 보안 위험에 대한 관심이 더욱 집중되고 있습니다.
이 계획은 AI 안전 연구소를 기술 평가 작업의 중심에 두고 있습니다. 또한 모델 테스트, 추적성, 안전장치 및 위기 정보 공유 시스템 구축을 요구합니다. 초안은 일본이 AI 취약점 및 사고 관련 데이터를 수집하고 국제적으로 공유해야 한다고 명시하고 있으며, 이러한 과제들을 안전한 AI 배포를 위한 지침, 기술 표준 및 규칙 개발과 연계하고 있습니다.
이 초안에는 생성형 AI의 오용으로 생성된 허위 정보 및 가짜 뉴스에 대응하는 조치가 포함되어 있습니다. AI 생성 콘텐츠를 식별하고 진위 여부를 검증하는 데 도움이 되는 기술을 지원합니다. 또한 AI 관련 피해를 입은 사람들을 위한 공공 상담 서비스를 제안합니다. 기업들은 자사 서비스에서 발생하는 AI 관련 문제를 해결하는 불만 처리 시스템을 구축할 수 있도록 지원을 받게 됩니다.
지배구조 계획, 글로벌 역할 확대
일본의 초안은 또한 인공지능 거버넌스의 핵심 요소로 국제 협력을 명시하고 있습니다. 인적 자원, 역량 강화, 거버넌스 및 인프라 구축과 같은 분야에서 뜻을 같이하는 국가 및 개발도상국과의 협력을 구체적으로 언급하고 있습니다. 또한 인공지능 관련 국제 표준 제정 작업에 대해서도 언급하며, 일본이 국가 및 지역 간 신뢰할 수 있는 인공지능 구축을 위한 협력 모델 구축에 기여해야 한다고 명시하고 있습니다.
이번 제안은 각국 정부가 인공지능(AI) 위험 관리와 연구 개발 및 공공 활용 지원에 대한 압력을 점점 더 많이 받는 상황에서 나온 것입니다. 일본의 제안 초안은 두 가지 목표를 동일한 정책 틀 안에 담고 있습니다. 초안은 위험 평가, 사이버 대응 역량 강화, 고성능 AI에 대한 기술 평가를 요구합니다. 공개 의견 수렴 절차는 시민과 단체가 계획이 진행되기 전에 공식적으로 의견을 제시할 수 있는 채널을 제공합니다.
일본, 업데이트된 안전 계획에서 AI 위험 협력 확대 등의 소식이 UAE Gazette 에 처음으로 보도되었습니다.