샌호세에서 AI 업계를 보다 보면 요즘 가장 많이 듣는 말이 있습니다. "AI 기술은 너무 빨리 발전하는데 법은 너무 느리다."

그런데 이번에 일리노이주가 강력한 수준의 AI 안전법(AI Safety Measures Act)에 주지사 서명을 마치면서 본격적인 규제를 선언한 것입니다.

실리콘밸리에 있는 입장에서 보면 단순히 일리노이 하나의 문제가 아닙니다. 앞으로 미국 AI 산업 전체가 움직이는 방향을 보여주는 신호탄에 가깝습니다.

그동안 AI 이야기는 대부분 "얼마나 똑똑해졌나"에 집중됐습니다. 하지만 이제는 "얼마나 안전한가"가 같은 무게로 다뤄지기 시작했습니다.

이번 법안의 핵심은 OpenAI, Anthropic, Google 같은 AI 개발사는 자신들의 안전관리 방식을 공개해야 하고, 심각한 AI 사고가 발생하면 이를 보고해야 합니다.

내부 직원이 위험성을 발견했을 경우 불이익 없이 신고할 수 있도록 내부고발자 보호 장치도 마련됐습니다.

사실 이런 내용은 캘리포니아나 뉴욕에서도 이미 일부 시행되고 있습니다.

하지만 일리노이가 다른 점은 하나입니다.

바로 독립적인 외부 감사입니다.

미국에서 처음으로 일정 규모 이상의 AI 기업은 제3의 독립 기관으로부터 정기적인 안전 감사를 받아야 합니다.

연 매출 5억 달러 이상 AI 기업이면 예외가 없습니다.

감사 결과에 따라 안전관리 체계가 제대로 운영되는지 지속적으로 검증받게 됩니다.

이 조항은 2028년 1월부터 시행될 예정입니다.

실리콘밸리에서 보면 상당히 상징적인 변화입니다.

지금까지 AI 기업들은 "우리가 스스로 안전하게 관리하겠다"는 자율 규제를 강조해 왔습니다.

하지만 이제는 정부가 "직접 확인해 보겠다." 라고 말하기 시작한 것입니다.

흥미로운 점은 OpenAI와 Anthropic 모두 이번 법안을 공개적으로 지지했다는 사실입니다.

규제를 받는 회사들이 오히려 찬성했다는 점이 의외로 보일 수도 있습니다.

하지만 업계 입장에서 보면 충분히 이해됩니다. 현재 미국에는 연방 차원의 AI 기본법이 없습니다.

대신 캘리포니아, 뉴욕, 일리노이처럼 각 주가 조금씩 다른 규칙을 만들고 있습니다.

기업 입장에서는 주마다 법이 모두 다르면 운영 비용이 폭발적으로 증가합니다.

그래서 차라리 비슷한 규칙을 여러 주에서 적용받는 것이 훨씬 관리하기 쉽습니다.

실제로 OpenAI는 여러 주 의회에서 AI 관련 입법 과정에 적극적으로 의견을 내고 있습니다.

통일된 규제 틀을 만드는 것이 장기적으로는 기업에도 유리하기 때문입니다.

또 하나 주목할 부분은 내부고발자 보호입니다.

실리콘밸리에서는 이미 이런 문화가 중요하게 자리 잡고 있습니다.

대형 기술기업 상당수가 내부 신고 시스템을 운영하지만 법으로 강제하는 것은 또 다른 의미를 가집니다.

그렇다면 캘리포니아는 어떻게 될까요? 사실 캘리포니아 역시 AI 규제에 적극적입니다.

AI의 투명성, 딥페이크 표시, 선거 관련 AI 사용 등 여러 법안을 잇달아 통과시켰습니다.

여기에 일리노이까지 강력한 안전감사 제도를 도입하면서 미국 AI 기업들은 사실상 여러 주의 규제를 동시에 고려해야 하는 환경에 들어섰습니다.

샌호세에서 스타트업 관계자들과 이야기를 나누다 보면 분위기가 예전과 확실히 달라졌다는 걸 느낍니다.

몇 년 전만 해도 "얼마나 빠르게 모델을 출시할 것인가"가 최대 관심사였다면, 이제는 "법적으로 문제없는가", "데이터 출처가 명확한가", "감사에 대비할 수 있는가"가 투자자들의 질문으로 먼저 나옵니다.

특히 벤처캐피털도 AI 스타트업을 평가할 때 기술력뿐 아니라 규제 대응 능력을 함께 보기 시작했습니다.

앞으로는 뛰어난 모델 하나만 만든다고 성공하는 시대가 아닐 가능성이 큽니다.

안전성 문서, 데이터 관리 체계, 내부 통제 시스템까지 갖춘 기업이 더 높은 가치를 인정받는 시대가 열리고 있는 것입니다.

AI 경쟁은 앞으로도 계속될 것입니다. 다만 이제는 "누가 더 똑똑한 AI를 만드느냐"만으로는 부족합니다.

"누가 더 안전하고 책임감 있게 AI를 운영하느냐"가 기업의 경쟁력을 결정하는 새로운 기준이 되어가고 있다고 생각합니다.