AI 인한 피해 발생 안해도 처벌 가능→심각한 문제 발생시만 처벌
이달말 표결… “개정안 큰 우려 해결” vs “실제 쟁점 다루지 않아”
주요 인공지능(AI) 기업들이 포진한 실리콘밸리가 있는 캘리포니아주 의회가 AI 규제 법안을 입법 중인 가운데 당초 상원을 통과한 법안보다 내용을 완화한 법안이 하원에서 논의되고 있어 주목된다.
16일 뉴욕타임스(NYT) 등에 따르면 캘리포니아주 하원 예산위원회는 지난 15일 ‘첨단 AI 시스템을 위한 안전과 보안 혁신법'(Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act), S.B.1047 개정안을 통과시켰다.
이 법안은 기업들이 강력한 AI 기술을 대중에게 공개하기 전에 반드시 안전성을 테스트하도록 의무화하고 있다.
또 대규모 AI 시스템이 많은 사람을 사망에 이르게 하거나 5억 달러 이상의 피해를 일으키는 심각한 문제를 발생시키는 경우 AI 개발 회사에 책임을 지우도록 하고 있다.
개정안은 다만, 업계의 우려를 일부 반영해 주 정부가 AI 개발 회사들을 감독하고 처벌할 수 있는 권한을 일부 줄였다.
지난 5월 상원을 통과한 법안은 아직 피해가 발생하지 않았더라도 안전 규정을 준수하지 않은 AI 기업을 처벌할 수 있도록 했지만, 개정안은 AI 기술이 공공 안전에 실질적인 피해나 임박한 위험을 초래한 경우에만 처벌할 수 있도록 했다.
또 AI 안전을 위한 새로운 기관을 신설하지 않고, 규제 업무를 기존의 캘리포니아주 정부운영 기관에서 담당하기로 했다.
이 법안을 발의한 스콧 위너(민주당) 의원은 “우리는 혁신과 안전 모두를 발전시킬 수 있다”며 “개정안이 업계의 큰 우려를 해결했다고 생각한다”고 말했다.
그러나 개정안 역시 AI 개발을 저해할 수 있다며 업계에서는 여전히 우려를 표명하는 등 논란이 이어지고 있다.
정보기술(IT) 매체 테크크런치는 “개정안이 기존 법안보다 완화됐지만 여전히 개발자들에게 AI 모델 위험에 대한 책임을 묻고 있다”며 “법안 비판자들을 달래지는 못할 것으로 보인다”고 전망했다.
실리콘밸리의 유명 벤처캐피털(VC) 앤드리슨 호로비츠 마틴 카사도 총괄 파트너는 “개정안이 겉으로 보기에는 뭔가 있어 보이지만, 실질적인 내용은 없다”며 “법안의 실제 쟁점이나 비판은 다루지 않았다”고 지적했다.
구글과 메타에서 일한 투자자이자 연구원인 로렌 와그너는 “AI 규제는 주의회가 아니라 연방 차원의 문제가 돼야 한다”고 말했다.
이달 하원 표결을 앞둔 이 법안은 하원 본회의를 통과하더라도 당초 상원을 통과한 법안의 일부 내용이 바뀌면서 상원 표결도 다시 거쳐야 한다.
뉴욕타임스(NYT)는 민주당이 다수인 주의회는 이달 말까지 이 법안을 통과시킬 것으로 예상된다고 전했다.
법안이 주의회를 통과하면 개빈 뉴섬 주지사의 서명을 거쳐 입법이 마무리된다.
개정안이 하원 예산위를 통과한 직후 하원 의원 8명은 개빈 뉴섬 주지사에게 거부권 행사를 요청하는 서한을 보냈다.
<연합뉴스>
