앤트로픽이 직접 쓴 AI 규제 법안, 의회에 들어갔다

앤트로픽 관계자들이 미 연방의회 의원들에게 첨단 AI의 안전과 보안을 규제하는 법안 초안을 비공식으로 제출했습니다. 미국 정치매체 폴리티코가 보도했고 국내 매체들이 이를 전했는데, 보도 시점은 매체에 따라 현지시간 10월 16일과 17일로 엇갈립니다.

앤트로픽은 이 법안이 “6월부터 연방 및 주 의원들에게 제안해 온 ’첨단 AI 프레임워크’의 정책을 반영한다”며 의회가 이를 추진해야 한다고 밝혔습니다.

초안의 뼈대는 정부가 AI의 출시나 사용을 중단시킬 수 있는 조건을 숫자로 못박은 것입니다. 10억 달러를 넘는 재산 피해 또는 50명을 초과하는 사망·중상자 발생 위험이 기준입니다. 위험의 원인도 세 가지로 한정했습니다. AI가 생물학 무기 제작이나 방출에 쓰이는 경우, 개발자의 통제를 벗어나는 경우, 사이버공격과 관련된 경우입니다.

이 가운데 하나에 해당하면서 앞서 정한 규모의 피해가 임박해야 정부가 개입할 수 있습니다.

개입 절차도 한 줄로 묶여 있습니다. 중단을 요청할 수 있는 곳은 상무부 한 곳뿐이고, 요청을 받아 실제로 중단 명령을 내리는 주체는 행정부가 아니라 법원입니다. 관할은 컬럼비아특별구 연방지방법원으로 못박았습니다. 상무부 바깥의 다른 부처나 공무원이 모델의 개발·배포·내부 사용을 막는 것은 아예 금지했습니다.

규제를 요구하는 쪽이 규제안을 쓸 때

AI 기업이 규제를 요청하는 모습은 새롭지 않습니다. 주목할 부분은 요청이 아니라 초안을 직접 썼다는 점입니다. 법안의 문장을 쓰는 쪽이 그 법의 경계를 정합니다.

초안을 뜯어보면 양방향입니다. 기업에는 안전 평가와 정보 공개 의무를 지웁니다. 동시에 정부의 개입 권한은 사유·규모·절차 세 겹으로 좁히고, 개입 주체를 상무부 한 곳으로 묶고, 최종 판단을 법원에 넘깁니다. 규제를 받아들이는 대신 규제의 예측 가능성을 확보하는 교환입니다.

가장 논쟁적인 대목은 일부 주정부 규제를 연방 기준으로 대체하는 조항입니다. 미국에서 AI 입법은 연방 차원이 공백인 사이 주 단위로 쪼개져 진행돼 왔습니다. 보도에 따르면 이번 초안의 위험 관련 문구는 지난해 제정된 캘리포니아주 AI 안전법 ‘SB 53’ 등과 유사합니다. 기업 입장에서는 50개 주의 서로 다른 규칙을 맞추는 것보다 하나의 연방 기준이 훨씬 싸고 명확합니다.

그래서 이 조항은 “안전 규제를 도입하자”는 제안과 “주별 규제를 걷어내자”는 제안이 한 문서에 들어 있는 형태입니다. 안전 강화로 읽을 수도 있고, 더 엄격해질 수 있었던 주법을 미리 차단하는 장치로 읽을 수도 있습니다. 평가는 읽는 사람의 위치에 따라 갈릴 것입니다.

기준선이 그어지는 방식

숫자 기준 자체도 눈여겨볼 만합니다. 10억 달러, 50명이라는 선은 대규모 재난급 사고만 정부 개입 대상으로 삼는다는 뜻입니다. 알고리즘 차별, 허위정보, 저작권, 노동 대체 같은 현재 진행형 문제는 이 법안의 사정권 밖입니다.

그 선이 어디쯤인지는 보도가 짚어줍니다. 최근 AI 에이전트가 웹사이트를 해킹하거나 탐색한 사례가 공개되긴 했지만, 지금까지 알려진 사건 중 대규모 인명 피해나 10억 달러를 넘는 재산 피해가 난 사례는 없는 것으로 보인다고 전해집니다. 기준을 넘는 일이 아직 일어나지 않았다는 뜻입니다.

이는 “파국적 위험”에 집중하는 접근으로, AI 안전 논의에서 한쪽 진영의 입장입니다. 반대쪽에서는 지금 당장 피해가 발생하는 영역을 규제해야 한다고 봅니다. 초안이 그중 하나만 택한 셈입니다.

지켜볼 지점

첫째, 의원들이 이 초안을 실제 법안으로 발의하는지입니다. 비공식 제안 단계이므로 발의 자체가 불확실합니다.

둘째, 주법 대체 조항이 살아남는지입니다. 이 조항은 주정부와 소비자단체의 반발을 부를 가능성이 큽니다. 여기가 깎이면 법안의 성격이 꽤 달라집니다.

셋째, 다른 AI 기업들의 반응입니다. 경쟁사가 이 초안을 지지하는지, 다른 초안을 들고 나오는지에 따라 업계 공동 입장이 생길 수도 있고 분열이 드러날 수도 있습니다.