미국 의원들, 'AI 킬 스위치 법안' 제안: 내용과 논란
새 법안은 국토안보부가 최첨단 AI 시스템을 차단할 수 있도록 허용합니다. 지지자들은 안전망이라고 말하지만, 비판자들은 권한 남용이라고 주장합니다.
제안된 AI 킬 스위치 법안은 국토안보부가 국가 안보 위험이 있다고 판단되는 '최첨단' AI 시스템의 즉각적인 종료를 명령할 수 있는 권한을 부여하며, 불이행 시 일일 최대 2000만 달러의 벌금이 부과됩니다. 이 법안은 안전 대 정부 권한 남용에 대한 논쟁을 촉발했습니다.
AI 킬 스위치 법안 제안 내용
이 법안에 따라 국토안보부는 핵심 인프라, 공공 안전 또는 국가 안보에 '임박한 위협'을 제기하는 모든 AI 모델에 대해 긴급 명령을 내려 제한하거나 종료할 수 있습니다. 불응하는 기업은 100만 달러에서 시작하여 일일 2000만 달러까지 증가하는 벌금에 직면합니다. 이 법안은 핵심 영역에서 인간 수준의 성능에 근접하거나 초과하는 고급 AI 시스템인 소위 '최첨단' 모델을 대상으로 합니다.
킬 스위치에 대한 찬성 측
여러 사이버 보안 및 AI 안전 단체를 포함한 지지자들은 AI 시스템이 더욱 강력해짐에 따라 사이버 공격을 자동화하거나, 무기를 설계하거나, 전력망을 교란하는 데 사용될 수 있다고 주장합니다. 그들은 킬 스위치가 다른 기술의 비상 브레이크와 유사한 최후의 수단 안전 메커니즘이라고 말합니다. 한 의원은 최근 보도에서 "이는 혁신을 억누르는 것이 아니라 시스템이 폭주할 때 회로 차단기를 갖추는 것"이라고 말했습니다.
킬 스위치에 대한 반대 측
자유 시장 옹호자, 일부 기술 기업, 시민 자유 단체를 포함한 비판자들은 이 법안이 선출되지 않은 관료들에게 급변하는 산업에 대한 광범위한 권한을 부여한다고 경고합니다. 그들은 '임박한 위협'의 정의가 모호하며 인기가 없지만 합법적인 AI 시스템을 표적으로 삼는 데 사용될 수 있다고 주장합니다. 다른 이들은 많은 최첨단 모델이 오픈소스이기 때문에 종료 명령이 비현실적이라고 지적합니다. 한 기술 정책 분석가는 "이는 실제로 안전을 개선하지 않으면서 미국의 AI 리더십을 죽일 수 있다"고 말했습니다.
또한 법률 전문가들은 국토안보부가 복잡한 AI 시스템의 위협을 평가할 기술적 전문성을 갖추고 있는지, 그리고 일일 2000만 달러의 벌금이 적절한지 의문을 제기합니다. 이 법안은 항소 절차를 명시하지 않아 적법 절차 문제를 제기합니다.
AI 킬 스위치 법안이란 무엇인가요?
국토안보부가 임박한 국가 안보 위험을 제기하는 최첨단 AI 시스템의 종료를 명령할 수 있도록 하고, 불이행 시 일일 최대 2000만 달러의 벌금을 부과하는 제안된 미국 법안입니다.
왜 어떤 사람들은 AI 킬 스위치에 반대하나요?
비평가들은 정부가 AI 개발에 너무 많은 권한을 부여하고, 모호한 정의를 사용하며, 혁신을 위협하고, 오픈소스 모델에 효과적이지 않을 수 있다고 말합니다.
법안에서 '최첨단' AI 모델은 무엇을 의미하나요?
이 법안은 코드 생성, 사이버 보안 또는 무기 설계와 같은 영역에서 인간 수준의 성능에 근접하거나 초과하는 고급 AI 시스템을 대상으로 하지만, 정확한 기준은 아직 정의되지 않았습니다.
정부가 AI 시스템을 종료한 적이 있나요?
이 법안에 따르면 아직 없습니다. 아직 제안 단계입니다. 현재까지 미국 정부가 대규모 AI 종료를 명령한 적은 없습니다.
AI 킬 스위치 법안의 다음 단계는 무엇인가요?
이 법안은 의회 양원의 위원회 청문회와 표결을 통과해야 합니다. 전문가들은 마크업 세션과 전문가 증언을 주목하라고 조언합니다.