10월 30일 (현지 시각) 조 바이든 미국 대통령은'기념비적인'행정명령에 서명하고 백악관의 생성식 인공지능에 관한 첫 규제 규정을 내놓았다.

행정명령에 따르면 미국의 여러 정부기구는 인공지능을 사용하여 생물이나 핵무기와 같은 위협을 설계하는것을 방지하고"워터마크"등 내용검증의 가장 좋은 방법을 모색하여 선진적인 인터넷안전계획을 작성해야 한다.

구체적으로 명령은 인공지능 제품을 테스트하고 테스트 결과를 연방정부에 보고하도록 했다.글로벌 인공지능 인재를 미국에 유치하자는 제안도 했다.앞서 여러 매체에 따르면 이 행정명령은 클라우드 서비스를 운영하는 회사가 외국 고객의 상황을 정부에 통보하도록 했다.

"행정명령은 규범을 설정했다."

백악관은 성명에서 이 행정명령은 미국이 인공지능의 약속을 지키고 위험을 관리하는 데 앞장서도록 하기 위한 것이라고 밝혔다.바이든 행정부의 책임 있는 혁신 종합 전략의 일환으로 인공 지능의 안전하고 신뢰할 수 있으며 신뢰할 수있는 발전을 위해 자발적으로 약속 한 15 개의 선도적 인 회사를 포함하여 대통령이 이전에 취한 행동에 기반을두고 있습니다.

이 명령은 법적 효력이 없고 백악관의 이전 인공지능 규제 작업도 실행력이 부족하다는 비판을 받았지만, 새 규정은 연방기관의 구매력과 집행 도구를 통해 미국 시장에 영향력을 미칠 것이라고 미 매체 폴리티코는 전했다.예를 들어, 행정명령은 특히 리나 칸 (Lina Khan) 회장이 이 사명을 공개적으로 지지한 인공지능 업계의 반경쟁 행위와 소비자 피해 문제에 초점을 맞추도록 연방무역위원회에 지시했다.

"이것은 중요한 첫 번째 단계이며, 중요한 것은 행정 명령이 규범을 설정했다는 것입니다."라고 조지타운 대학의 보안 및 신흥 기술 센터의 선임 연구 분석가 인 로렌 칸 (Lauren Kahn) 은 언론과의 인터뷰에서 말했다.

백악관은 10여 개 정부 기관에 광범위한 내용의 지령을 발표할 것이다.내년 대통령 선거를 앞두고 대다수 기관은 90~240일 동안 행정명령 요건을 충족할 예정이다.명령은 또한 백악관 정책 담당 부비서실장이 의장을 맡고 각 주요 기관의 대표들로 구성된 연방 정부의 관련 활동을 조정하기 위해 백악관 인공 지능 위원회를 임명할 것이다.

바이든 행정부의 한 고위 관리는 브리핑에서 기자들에게 새로운 규정이 주로 미래의 인공지능 모델에 적용된다면서"우리는 기존의 공개 모델을 리콜하지 않을 것"이라고 말했다."

NYT는 이 명령이 최첨단 미래 시스템을 겨냥하고 있지만, 우크라이나, 가자지구 또는 대선 경선과 관련된 허위 정보를 퍼뜨리는 데 사용될 수 있는 기존 챗봇의 직접적인 위협을 상당 부분 해결하지 못했다고 전했다.또한 이 명령은 미국 회사에만 영향을 미치지만 소프트웨어 개발이 세계 각지에서 발생하기 때문에 미국은 이러한 규정을 집행할 때 외교적 도전에 직면하게 될 것이기 때문에 미국 정부는 동맹국과 상대가 비슷한 규칙을 제정하도록 장려하려고 한다.

보안 테스트 결과를 정부와 공유해야 함

행정명령은 인공지능 안전을 위한 새로운 표준 제정, 프라이버시 보호, 공평과 시민권 촉진, 소비자, 환자, 학생의 권리 수호, 노동자 지원, 혁신과 경쟁 촉진, 인공지능 기술에 대한 미국의 리더십 제고, 정부의 책임과 효과적인 기술 사용을 보장하는 8가지 행동을 지도할 것이다.

첫 번째 부분은'인공지능 안전의 새로운 기준'이다.국방생산법에 따르면 이 명령은 국가 안보, 국가 경제 안보 또는 국가 공공 건강 안전에 심각한 위험을 초래하는 기초 모델을 개발하는 모든 회사가 모델을 훈련할 때 연방 정부에 통보하고 모든 레드 팀 보안 테스트 결과를 연방 정부와 공유하고 인공 지능 시스템의 안전과 신뢰성을 보장하기 위해 표준, 도구 및 테스트 수단을 개발해야합니다.

미국 국립표준기술연구소(The National Institute of Standards and Technology)는 광범위한 레드팀 테스트를 위한 엄격한 기준을 마련할 예정이다.국토안보부는 이런 기준을 핵심 인프라 부문에 적용하고 인공지능 안전위원회를 구성한다.에너지부와 국토안보부는 핵심 인프라에 대한 인공지능 시스템의 위협과 화학, 생물, 방사성, 핵 및 네트워크에 대한 보안 위험도 해결할 예정이다.

명령은 강력한 생물합성선별의 새로운 표준을 제정함으로써 인공지능을 사용하여 위험한 생물재료를 설계하는 위험을 방비할것을 요구했다.

명령은 또한 인공 지능이 생성 한 콘텐츠를 감지하고 공식 콘텐츠를 검증하는 기준과 최선의 방법을 수립함으로써 인공 지능에 의한 사기와 속임수로부터 미국인을 보호 할 것을 요구합니다.상무부는 인공지능이 생성한 내용을 명확히 표기할 수 있도록 콘텐츠 인증과 워터마크 지침을 마련할 예정이다.

명령은 국가안전위원회와 백악관 판공청 주임이 담당하는 인공지능과 안전에 대한 추가 행동을 지도하기 위해 국가안전각서를 제정할 것을 요구했다.이 문서는 미국 군사 및 정보계가 임무에서 안전하고 윤리적이며 효과적으로 인공 지능을 사용할 수 있도록 보장하고 인공 지능에 대한 상대의 군사 사용에 반격하기 위한 행동을 지도할 것이다.

폴리티코와 뉴욕타임스가 조금 전 공개한 초안에 따르면 이 명령은 강력한 인공지능 모델이 외국 라이벌의 손에 넘어가는 것을 막기 위해 강력한 인공지능 모델을 개발하는 회사가 상무부에 정기 보고서를 제공하고 아마존과 마이크로소프트 등 대형 클라우드 서비스 업체가 외국 고객이 서버 훈련 대형 모델을 임대할 때 정부에 통보하도록 했다.

프라이버시, 공평, 건강, 교육 분야

두 번째 부분은'미국인의 프라이버시 보호'다.첫 번째 단계는 정부가 얼마나 많은 개인 신원 정보를 구입했는지 관리 및 예산 사무소가 규명하는 것입니다.행정명령은 정부가 데이터 중개인으로부터 구매한 정보를 수집, 사용, 공유 및 삭제할 때 프라이버시 위험을 줄이기 위한 가이드라인도 마련한다.

행정 명령은 연방 기관이 수집 된 데이터를 보호하기 위해 고급 개인 정보 보호 강화 기술을 채택하도록 권장하며, 연방 기관이 사용하는 개인 정보 보호 기술의 개발, 추진 및 배포에 중점을 둔 새로운 연구 네트워크를 국립 과학 재단이 지원하도록 권장합니다.

이 명령은 또한 인공 지능의 직장 사용과 관련되어"부당한 노동자 감시를 장려하기 위해 인공 지능 기술을 배치해서는 안 된다"고 지적했다.

세 번째 부분은'공평과 공민의 권리를 촉진하는 것'이다.명령은 인공지능 알고리즘이 차별을 심화시키는 데 사용되지 않도록 집주인, 연방 복지 프로그램 및 연방 계약자들에게 명확한 지침을 제공합니다.양형, 가석방 및 집행유예, 재판 전 석방 및 구금, 위험 평가, 모니터링, 범죄 예측 및 예측적 경찰 업무 및 법증 분석에 인공 지능을 사용하는 모범 사례를 개발함으로써 전체 형사 사법 시스템의 형평성을 보장합니다.

4부는'소비자, 환자, 학생 지원'이다.보건 및 대중 서비스는 인공 지능의 위해 또는 안전하지 않은 의료 관행에 대한 보고서를 접수하고 조치를 취하기 위해 안전 계획을 수립 할 것입니다.명령은 교육자가 인공 지능이 지원하는 교육 도구 (예: 학교에서 개인화 된 지도) 를 배치하여 인공 지능이 교육을 변화시킬 수있는 잠재력을 형성하도록 지원할 것을 요구합니다.

5부는'근로자 지원'이다.원칙과 최선의 방법을 제정하여 근로자에게 지도를 제공하여 고용주의 로임이 너무 낮고 불공평하게 사업신청을 평가하거나 로동력의 조직능력에 영향을 주지 않도록 해야 한다.

인공지능 인재를 붙잡아 두기 위해 편의를 제공하다

6부는'혁신과 경쟁 촉진'이다.백악관에 따르면 미국은 인공지능 혁신에서 이미 선두를 달리고 있으며 지난해 미국에서 처음으로 자금을 조달한 인공지능 스타트업 수는 하위 7개국을 합친 것보다 많다.

명령은 국가 인공지능 연구 자원 시범을 통해 미국 각지의 인공지능 연구를 촉진하고 의료 보건과 기후 변화 등 중요한 분야의 인공지능 연구에 대한 지원을 확대할 것을 제기한다;소규모 개발자와 기업가에게 기술 지원과 자원을 제공함으로써 중소기업이 사업화를 돌파할 수 있도록 돕고, 공정하고 개방적이며 경쟁적인 인공지능 생태계를 촉진하기 위해 연방무역위원회가 권한을 행사하도록 장려한다;비자 기준, 면접 및 심사를 현대화하고 간소화함으로써 주요 분야에서 전문 지식을 보유한 첨단 기술 이민자와 비 이민자가 미국에서 학습, 체류 및 일할 수있는 능력을 확대합니다.

7부는'해외에서 미국의 리더십 향상'이다.명령은 미국 국무부가 상무부와 협력하여 강력한 국제 틀을 수립하도록 지도하고, 국제 파트너 및 표준 조직과 함께 중요한 인공 지능 표준의 개발과 실시를 가속화하며, 인공 지능이 국외에서 안전하고 책임감 있고 권리를 수호하는 발전과 배치를 촉진할 것이라고 제기했다.

8부는'정부가 책임지고 인공지능을 효과적으로 사용할 수 있도록 하는 것'이다.명령은 권리와 안전을 보호하는 명확한 기준을 제정하고 인공지능 구매를 개선하며 인공지능 배치를 강화하는 등 각 기관이 인공지능을 사용할 수 있도록 지침을 발포할 것을 요구한다;더 빠르고 효율적인 계약을 통해 기관이 지정된 인공 지능 제품 및 서비스를 더 빠르고 저렴하며 효과적으로 얻을 수 있도록 돕습니다.

카말라 해리스 부통령은 이번 주 런던에서 열리는 인공지능 안보 정상회의에 참석할 것으로 알려졌다.

【SS속평】은 자본이 끊임없이 AIGC에 베팅됨에 따라 AIGC는 전례없는 고속 발전을 이루었다.사실, 그 시작은 결코 늦지 않았지만, 이전에는 줄곧 특별한 중시를 받지 못했는데, 이는 전 세계의 경제가 여전히 다른 추진력을 가지고 있기 때문이다.그러나 낡은 과학기술이 점차 사회경제발전에서 성숙되고 응용됨에 따라 그 추진력은 점차 퇴조를 보이기 시작하였다.이럴 때는 새로운 추진력이 전면에 나서야 한다.

이것이 AIGC가 현재 세계 경제에 있는 위치이다.천량의 자본 투입을 얻었기 때문에 대량의 인력과 물력이 AIGC의 개발에 가입하여 AIGC의 발전 속도를 크게 추진했다.그리고 일정한 단계에 이르렀을 때 AIGC는 공상 과학 영화의 장면을 보여주고 있는 것 같다.이로 인해 AIGC와 인간의 잠재적 갈등도 점차 드러나는 것 같다.

인류 집단은 하나의 전체로서 당연히 자신의 이익을 우선적으로 고려해야 한다.현재 지구의 지배 집단으로서 일단 새롭고 위협적인 종이 나타날 수 있다면 확실히 미리 대비해야 한다.

공상과학영화는 이미 수십년전에 인류에게 예방주사를 놓았기에 이 문제에서 기본적으로 큰 내부론쟁이 나타나지 않는다. 필경 이는 인류와 AIGC 사이에 나타날수 있는 잠재적모순이다.

AIGC는 인류에게 매우 편리한 서비스를 제공할 수 있지만, 인류는 이로 인해 AIGC에 얽매일 수 없다.그러므로 지금부터 가능한 모든 미래의 위기를 예방하는 것은 임무가 무겁고 갈 길이 멀다!