백악관이 나섰습니다
카멀라 해리스 부통령과 미국 정부의 행정부 관리들은 5월 4일 목요일 오픈 AI (OpenAI)구글(Google) 마이크로소프트(Microsoft) 안트로픽(Anthropic)의 CEO와 만나 인공 지능에 대해 논의했습니다.
*이하 내용은 뉴욕 타임스의 기사를 편집한 것입니다.
2023년 5월 4일 목요일 백악관은 빠르게 발전하는 AI기술을 규제하라는 요구에 따라 미 행정부가 할 수 있는 노력의 하나로 실리콘밸리 최고 경영자들에게 인공 지능의 위험을 제한하도록 촉구했습니다.
백악관 루즈벨트 룸에 모인 이들은 카멀라 해리스 부통령과 구글 Google과마이크로소프트 Microsoft, ChatGPT를 만든 OpenAI 및 챗봇 Claude를 만든 앤트로픽 Anthropic리더들이었습니다. 카멀라 해리스 부통령은 이들에게 A.I. 기술에 대한 우려를 진지하게 고려하라고 촉구했습니다. 이 회의에는 바이든 대통령도 잠시 들렀습니다.
OpenAI가 지난해를 대중에게 공개한 이후 세계의 곳곳의 회사들이 챗봇을 제품에 통합하고 A.I 연구를 가속화하고 있습니다. 벤처 자본가들은 AI에 수십억 달러를 쏟아붓고 있는 중입니다.
이렇게 해서 촉발된 A.I. 기술은 어떻게 경제를 변화시키고 세계의 지정학을 뒤흔들지, 범죄 활동을 강화할 수 있는지에 대한 두려움을 불러일으켰습니다. 비평가들은 발달한 A.I. 시스템은 사람들을 일자리에서 쫓아낼 수 있고, 허위 정보를 퍼뜨리기도 할 것이며, 스스로 법을 어길 수도 있다고 경고합니다.
AI의 대부로 알려진 제프리 힌턴(Geoffrey Hinton)은 AI 기술로 인한 위험에 대해 구글을 사임한 이후 공개적으로 입을 열었습니다.
바이든 대통령은 최근 AI가 위험한가의 여부에 대해서는 "여전히 확인해야 한다"는 입장을 고수했습니다. 그러나 그가 임명한 정부 고위 관리들은 기술이 유해한 방식으로 사용될 경우 정부가 개입하겠다고 약속했습니다. 다수당인 뉴욕의 척 슈머 상원의원을 비롯한 의회 의원돌도 AI를 규제하기 위한 법안의 초안을 작성하거나 제안하고 있는 중입니다.
기술을 규제해야 한다는 압력은 전 세계 여러 곳에서 나타나고 있습니다. 유럽 연합의 의원들은 AI에 대한 규칙을 협상하는 중이지만 그들의 제안이 궁극적으로 ChatGPT와 같은 챗봇을 어떻게 다룰지는 확실하지 않습니다. 중국 당국은 최근 A.I. 시스템이 엄격한 검열 규칙을 준수해 줄 것을 요구했습니다.
연방 통신 위원회의 전 의장인 톰 휠러(Tom Wheeler)는 “유럽은 물론이고 중국도 가만히 두고 보지만은 않을 것입니다. 시장에서 선점자 우위가 있는 만큼 정책에서도 선점자 우위가 있습니다”라고 말했습니다.
톰 휠러는 미국이 어떤 조치를 취할지 모든 사람이 주목하고 있다고 말했습니다. “누가 정책에서 선점자가 되는가, 백악관은 어떻게 할 것인가”에 모든 사람의 초점이 맞춰져 있다고 했습니다.
이렇게 정부가 기술 회사에 제품을 안전하게 만들기 위한 조치를 취하도록 요구하고 있음에도 불구하고 A.I. 기업들과 그들의 대표자들은 선출된 공무원들이 빠르게 성장하는 공간에 대한 규칙을 설정하기 위한 조치를 취할 필요가 있다고 말하면서 반대로 정부의 태도를 지적했습니다.
목요일 회의 참석자에는 Google의 CEO Sundar Pichai가 포함되었습니다. Microsoft의 수석 Satya Nadella, OpenAI의 Sam Altman, Anthropic의 Dario Amodei 최고 경영자도 참석했습니다. 행정부 관계자에 따르면 “일부 임원은 기술 전문 지식을 갖춘 보좌관을 동반했고 다른 일부는 공공 정책 전문가를 동반했다”라고 말했습니다.
Google, Microsoft 및 OpenAI는 백악관 회의 후 언급을 거부했습니다. Anthropic은 논평 요청에 즉시 응답하지 않았습니다.
회의 후 성명에서 미 행정부는 개발 회사가 자기 제품에 대해 더 개방적이기를 바라며, AI 시스템이 외부 조사를 받아야 할 필요성, 이런 문제의 중요성에 대해 솔직하고 건설적인 논의가 있었다고 말했습니다.
"미국의 AI 혁신 생태계에서 CEO와 회사가 수행하는 역할을 고려할 때 행정부 관리는 리더십의 중요성을 강조하고 책임 있는 행동의 모범을 보여야 하며 책임 있는 혁신과 적절한 보호 조치를 보장하고 사람들의 권리와 안전을 보호하기 위한 조치를 취할 것을 촉구했다”라고 백악관은 말했습니다.
회의 몇 시간 전에 백악관은 국립과학재단이 AI에 전념하는 새로운 연구 센터에 1억 4천만 달러를 지출할 계획이라고 발표했습니다. 행정부는 또한 정부 기관이 AI를 사용하도록 보장하기 위한 지침 초안을 발표하겠다고 약속했습니다. "미국 국민의 권리와 안전"을 보호하며 여러 A.I. 기업들은 8월 사이버 보안 회의에서 제품을 조사할 수 있도록 하기로 합의했습니다.
작년에 백악관은 자동화 시스템이 사용자의 데이터 프라이버시를 보호하고 차별적인 결과로부터 사용자를 보호하며 특정 조치가 취해진 이유를 명확히 해야 한다는 AI 권리 장전의 청사진을 발표했습니다. 지난 1월 상무부는 수년간 작업해 온 AI 개발의 위험을 줄이기 위한 프레임워크도 발표했습니다.
그러나 기술을 통제하기 위한 구체적인 조치는 워싱턴의 법 집행 기관에서 먼저 나올 가능성이 더 큽니다. 지난 4월 정부 부처 단체는 자동화 시스템의 개발과 사용을 모니터링하고 책임 있는 혁신을 촉진하는 한편, 기술을 사용하여 저지른 법률 위반을 처벌하겠다고 약속했습니다.
수요일 The Times의 게스트 에세이에서 연방거래 위원회(FTC) 의장인 리나 칸(Lina Khan)은 국가가 AI와 함께 ‘핵심 결정 지점’에 있다고 말했습니다. 그녀는 AI 기술의 최근 발전을 Google 및 Facebook과 같은 거대 기술 기업의 탄생에 비유했습니다. 그녀는 적절한 규제 없이는 기술이 가장 큰 기술 회사의 힘을 강화하고 사기꾼에게 강력한 도구를 제공할 수 있다고 경고했습니다.
그녀는 AI 사용이 더욱 널리 퍼짐에 따라 공직자들은 힘들게 학습한 역사가 반복되지 않도록 해야 할 책임이 있다고 말했습니다.
