혼돈의 미국 375 - 인공지능의 로봇이 싸우는 미래전쟁이 다가오나요?

[피터 김]

구글의 에릭 슈미트와 인공지능 군사산업 단지

Google’s Eric Schmidt & The Artificial Intelligence Military-Industrial Complex
By Derrick Broze
Feb 27, 2021 - 2:57:27 AM

https://www.thelastamericanvagabond.com/googles-eric-schmidt-artificial-intelligence-military-industrial-complex/

Posted on February 24, 2021

AI위원회가 구글 Google의 전 CEO인 에릭 슈미트 Eric Schmidt가 이끄는 단순한 사실은 개인 정보보호, 책임, 투명성 및 개인의 자유를 염려하는 사람들에게 문제가 될 것입니다.

1 월 말, 인공 지능에 관한 국가 안보위원회 (NSCAI) 또는 AI위원회는 비판자들이 "킬러 로봇"으로 특징되는 AI 기반 자율 무기를 금지하라는 요청을 거부하면서 다가오는 보고서의 초안을 의회에 발표했습니다. AI위원회가 프라이버시 및 시민 자유 문제를 간략하게 다루었지만, 궁극적으로 의회에 AI 연구 및 자금을 2026 년까지 연간 최대 320 억 달러까지 두 배로 늘릴 것을 촉구했습니다. 보고서는 또한 위원회의 위원장과 전 구글 대표 Google CEO 슈미트 간의 명확한 이해 상충을 언급하지 못했습니다.

The simple fact that the AI Commission is led by former Google CEO Eric Schmidt should trouble those who care for privacy, accountability, transparency, and individual liberty.

In late January, the National Security Commission on Artificial Intelligence (NSCAI), or the AI Commission, released a draft of their upcoming report to Congress, rejecting calls to ban AI-powered autonomous weapons, characterized by critics as "killer robots". While the AI Commission did briefly address privacy and civil liberties concerns, they ultimately called on Congress to double AI research and funding annually up to $32 billion a year by 2026. The report also failed to note clear conflicts of interest between the Commission's Chairman, and former Google CEO, Eric Schmidt.

발전하는 AI 기반 감시 및 경찰 국가의 반대자들에는 법 집행기관이 비밀 AI 알고리즘으로 구동되는 안면인식 소프트웨어가 장착된 안경을 쓰고 있는 미래에 대해 우려하는 개인 정보보호 옹호자들이 포함됩니다.
보고서 초안은 감시 문제를 다루며 "AI 미래의 이해 관계는 권위주의적 민주적 정치 시스템과 이념 간의 지속적인 경쟁과 밀접하게 관련되어 있습니다, "라고 말했습니다. ICRP는 또한 AI 지원 감시가 "곧 대부분 또는 모든 정부의 손에 있을 것"이며 "권위주의 정권은 AI 지원 얼굴 인식, 생체 인식, 예측 분석 및 데이터 융합을 감시와 정치적 통제 영향력의 도구로 계속 사용할 것입니다."

Opponents of the advancing AI-powered surveillance and police states include privacy advocates concerned about a future where law enforcement are wearing glasses equipped with facial recognition software powered by secret AI algorithms.

The draft report addresses the surveillance concerns, stating, "The stakes of the AI future are intimately connected to the enduring contest between authoritarian and democratic political systems and ideologies." The Commission also notes that AI-enabled surveillance will "soon be in the hands of most or all governments" and "authoritarian regimes will continue to use AI-powered face recognition, biometrics, predictive analytics, and data fusion as instruments of surveillance, influence, and political control."

이 보고서는 중국의 권위주의와 AI 기반 감시 국가를 정확하게 지적하고 있습니다. 그러나 이 초안은 또한 미국을 "법치에 부합하는 합법적인 공공 목적을 위해 …… 양립할 수있는"기술을 사용하는 "자유 민주주의"로 표현하려고 시도합니다. 함축된 의미는 미국의 적들이 이 기술을 폭군적 목적으로 사용할 수 있지만 미국과 동맹국은 자유를 보호하기 위해 AI를 사용한다는 것입니다.
"책임있는 민주주의는 정부에 의한 AI 사용이 자유롭고 열린 사회를 정의하는 권리와 자유에 맞도록 현명한 제한에 의해 제한되도록 해야합니다," 라는 초안을 읽습니다. "미국 정부는 적절한 투명성, 강력한 감독 및 오용으로부터 보호할 책임이 있는 AI 지원 기술을 개발하고 현장에 배치해야 합니다."

The report correctly points a finger at China's authoritarianism and AI-driven surveillance state. However, the draft also attempts to paint the U.S. as a "liberal democracy" that uses such technologies for "legitimate public purposes.... compatible with the rule of law." The implication is that the enemies of the U.S. could use this technology for tyrannical purposes, but the U.S. and its allies would only ever use AI in the interest of preserving liberty.

"A responsible democracy must ensure that the use of AI by the government is limited by wise restraints to comport with the rights and liberties that define a free and open society," reads the draft. "The U.S. government should develop and field AI-enabled technologies with adequate transparency, strong oversight, and accountability to protect against misuse."

액면 그대로 받아들인다면 이러한 진술은 확신을 제공할 수 있습니다. 불행히도 우리는 미국 정부와 군대에 대해 말하고 있으며 이러한 기관은 투명성 또는 책임의 역사가 없습니다. 더욱 걱정스러운 것은 국가안보 목적, 특히 "국경 내에서 활동하는 외국 및 국내 테러리스트"에 대한 AI 사용의 "긴급한 필요성"에 대한 초기 언급입니다. 이 초안은 국방부 DOD가 "AI의 보안 응용 프로그램이 개인의 자유와 법에 따른 동등한 보호의 핵심 가치에 부합"하는지 확인하지 않고 대테러 목표를 추구하지 않도록 장려합니다.

Taken at face value, these statements might offer a sense of reassurance. Unfortunately, we are speaking about the U.S. government and military, and these institutions do not have a history of transparency or accountability. Even more worrisome is the drafts mention of the "urgent need" to use AI for national security purposes, particularly against "foreign and domestic terrorists operating within our borders." The draft encourages the DOD not to pursue their counter-terrorism goals without ensuring that "security applications of AI conform to core values of individual liberty and equal protection under law."

개인 정보보호 문제에 대한 인정에도 불구하고 보고서 초안의 대부분은 미국 정부와 미군 연구를 AI로 확장하겠다는지지였습니다. 로버트 워크 (Robert Work) 전 국방부 부장관이자 위원회 부의장은 국방부가 2025 년까지 군인을 위한 훈련과 교육을 통해 "군사 AI 준비"를 달성할 것을 촉구하고 있다고 말했다. 초안은 국방부 장관이 올해 말까지 AI 준비 목표를 설정하도록 요구합니다.
보고서의 최종 버전은 3 월 1 일에 의회와 공유될 예정입니다.

Despite the acknowledgement of privacy concerns, the bulk of the draft report was an endorsement of expanding the U.S. government and U.S. military research into AI. Robert Work, former Deputy Defense Secretary and the commission's vice chairman, said the commission is calling on the Department of Defense to achieve "military AI readiness" by 2025 with training and education for military members. The draft calls for the Secretary of Defense to establish AI readiness goals by the end of this year.

The final version of the report is expected to be shared with Congress on March 1st.

킬러 로봇을 막기위한 싸움The Fight To Stop Killer Robots

또한 인간 장교를 포함하는 전통적인 치안이 대중에게 알려지지 않은 공식을 사용하여 결정을 내리는 인공 지능으로 구동되는 원격제어 드론 및 로봇 장교로 대체될 수 있다는 우려도 있습니다.
일부 비평가들은 이 기술에 대한 전면적인 금지를 희망했지만 위원회는 AI가 전투에서 실수를 덜하여 사망자가 줄어들 것이라고 믿고 있다고 말했다. 워크 부회장은 "적어도 이 가설을 추구하는 데에는 도덕적 의무"가 있다고 말했다. 로이터 통신은위원회 위원 중 한 명이 "빨리 반응하는 기계를 만들라는 압력으로 인해 갈등을 심화시킬 수있다"고 경고했다고 보도했다. 패널은 인간 만이 핵무기 발사에 관한 결정을 내려야한다는 생각을 지지했지만 AI 금지는 "미국의 이익"에 반해 시행하기 어려울 것, 즉 AI가 핵을 결정할 수 있을 것이라고 말했다.

There are also fears that traditional policing involving human officers could be replaced with remote-controlled drones and robot officers powered by artificial intelligence that make decisions using a formula unknown to the public.

Some critics had hoped for an outright ban on the technology, but the commission said they believe AI would make fewer mistakes in battle, leading to less deaths. Vice Chair Work said there was a "moral imperative to at least pursue this hypothesis." Reuters reports that one of the members of the commission warned of "pressure to build machines that react quickly, which could escalate conflicts." The panel endorsed the idea that only humans should make decisions regarding launching nuclear weapons, but said a ban on AI would work against "U.S. interests" and difficult to enforce.

자율 무기 금지의 주요 옹호자 중 하나는 완전 자율 무기를 금지하기 위해 2012 년 10 월에 결성된 비정부기구 (NGO) 연합인 킬러 로봇 중지 캠페인 조직입니다. 그들은 이것이 "무력 사용에 대한 인간의 의미있는 통제를 유지"하는 데 도움이 될 것이라고 주장합니다. 이 단체는 소위 "킬러 로봇"을 금지하는 조약을 위해 국제적으로 캠페인을 벌이고 있습니다. 연합에 따르면 30 개국, 110 개의 NGO, 4,500 명의 AI 전문가가 기술 금지 노력을 지원하고 있습니다.

킬러 로봇을 막기위한 캠페인의 코디네이터인 메리웨어 햄은 로이터 통신에 "중국과 러시아의 유사한 투자와 경쟁할 필요성에 초점을 맞추는 것은 군비 경쟁을 장려할 뿐"이라고 말했다. Wareham은 AI 기반 전쟁이 사상자 감소로 이어질 것이라는 가정하에 AI 연구를 추구하는 것이 미군의 "도덕적 의무"라는 부의장 워크의 발언을 감안할 때 그녀의 평가에서 옳습니다. 이러한 사고 방식은 인공 지능 관련 국방 연구가 매년 수십억 달러의 납세자에 대한 자금을 지원받게 될 것입니다.

One of the main advocates for banning autonomous weapons is the organization Campaign to Stop Killer Robots, a coalition of non-governmental organizations (NGOs) formed in October 2012 to ban fully autonomous weapons. They claim this would help "retain meaningful human control over the use of force." The organization has been campaigning internationally for a treaty which would ban so-called "killer robots". According to the coalition, 30 countries, 110 NGOs, and 4,500 AI experts are in support of their efforts to ban the technology.

Mary Wareham, coordinator of Campaign to Stop Killer Robots, told Reuters that the commission's "focus on the need to compete with similar investments made by China and Russia... only serves to encourage arms races." Wareham is correct in her assessment given Vice Chair Work's statement that it is a "moral imperative" for the U.S. military to pursue AI research under the assumption that AI-driven warfare would lead to less casualties. This mentality will all but guarantee that AI-related defense research will be funded to the tune of billions of taxpayer dollars annually.

전자 개인정보 보호센터는 AI위원회가 결론에 도달하는 방법에 대한 세부 정보를 제공하고 위원회 구성원 간의 내부 커뮤니케이션을 모색하도록 강요하기 위해 싸우고 있습니다. EPIC는 AI위원회를 상대로 두 번의 승리를 거두었으며 위원회가 공개 회의를 열고 수천 페이지의 기록을 공개하도록 강요했습니다. EPIC는 AI위원회에 "국가의 최고 정책결정 기관인 의회에 AI의 사용 및 개발을 위한 정부 차원의 원칙과 보호 장치를 설정하도록 조언"할 것을 촉구했습니다.

EPIC는 AI위원회의 작업에 대한 귀중한 데이터를 공개하는 데 성공했지만 "미국 정보 커뮤니티가 중요한 AI 보호 장치에 투자하지 못했다는 징후가 이미있다"고 경고합니다.

The Electronic Privacy Information Center has been fighting to force the AI Commission to provide details regarding how they reach their conclusions, as well as seeking internal communications between Commission members. EPIC has won twice in its case against the AI Commission, forcing the Commission to hold public meetings and disclose thousands of pages of records. EPIC has called on the AI Commission to "advise Congress, as the nation's highest policymaking authority, to establish government-wide principles and safeguards for the use and development of AI."

While EPIC has succeeded in revealing invaluable data about the work of the AI Commission, they also warn that "there are already indications that the U.S. Intelligence Community has failed to invest in vital AI safeguards."

구글의 에릭 슈미트와 반란 방어Google's Eric Schmidt and Rebellion Defense

AI위원회는 2018 년 의회에서 "인공 지능, 관련 기계학습 개발 및 관련 기술의 발전을 검토"하고 의회와 대통령에게 정책을 권장하는 것을 목표로 설립되었습니다. 위원회는 투명성과 책임성을 약속했지만 실제로는 대부분의 회의와 의사 결정을 비밀리에 열었습니다. 위원회가 Google의 전 CEO 인 슈미트 Eric Schmidt가 이끄는 단순한 사실은 개인 정보보호, 책임, 투명성 및 개인의 자유를 중요시하는 사람들에게 문제가 될 것입니다.

슈미트는 2001 년부터 2011 년까지 Google의 CEO로 알려져 있지만 Google에서의 그의 역할은 2020 년까지 계속됩니다. Schmidt는 2011 년부터 2015 년까지 Google의 회장을 역임했으며 2015 년부터 2017 년까지 Google의 모회사 Alphabet Inc.의 회장을 역임했습니다. 가장 최근에는 2017 년부터 2020 년까지 Alphabet에서 '기술 고문'으로 근무했습니다.

The AI Commission was established by Congress in 2018 with the goal of "review[ing] advances in artificial intelligence, related machine learning developments, and associated technologies" and making policy recommendations to Congress and the President. The Commission has made promises of transparency and accountability, but has actually held most of its meetings and decision-making in secret. The simple fact that the Commission is led by former Google CEO Eric Schmidt should trouble those who care for privacy, accountability, transparency, and individual liberty.

Schmidt is known for being the CEO of Google from 2001 to 2011, however, his role with Google continues through the 2020's. Schmidt served as Executive Chairman of Google from 2011 to 2015 and then Executive Chair of Google's parent company Alphabet Inc. from 2015 to 2017. Most recently, Schmidt has been a "Technical Advisor" at Alphabet from 2017 to 2020.

이 기간 동안 Google은 여러 홍보 악몽을 겪었습니다. 즉 "거대 기술사 Big Tech"가 사용자로부터 방대한 양의 데이터를 수집하는 것으로 악명이 높다는 사실입니다. 구글이 웹 사이트와 검색어를 블랙리스트에 올릴 수있는 검색 엔진의 검열 버전을 중국에서 출시할 계획을 세웠던 때가 있었습니다. 에릭 슈미트가 말한 조치는 중국이 "더 개방적"일 수 있도록 도와줄 것이라고 말했습니다. 또한 Google이 Pentagon과 협력하여 드론 영상을 분석하는 AI를 개발하고 있다는 사실이 밝혀진 Project Maven 실패도 있었습니다. Maven의 뉴스가 주류가 된 후 수십 명의 직원이 항의하여 사임했고 수천 명의 직원이 Google에 프로젝트를 그만두도록 요청하는 청원에 서명했습니다. Google은 궁극적으로 Project Maven을 포기할 것이라고 경고하고 발표했습니다.

더 최근에 The American Prospect의 조사에 따르면 Schmidt가 거의 알려지지 않은 AI 계약자와 관련이 있음이 밝혀졌습니다. 이 보고서는 오바마 행정부 기간 동안 Google 대표가 백악관에서 자주 보였고 일부는 "농담으로 Google.gov 행정부라고 부르는"사람이 많았으며 250 명 이상의 Google 직원이 오바마 대통령 재임 기간 동안 정부와 회사 사이를 이동했습니다. Schmidt는 이러한 Google 직원 중 한 명이었습니다.

During this time period, Google has suffered multiple public relations nightmares, namely the fact that the "Big Tech" firm is infamous for gathering massive amounts of data from its users. There was the time that Google planned to launch a censored version of its search engine in China that would blacklist websites and search terms - a move which Eric Schmidt said would help China be "more open." There was also the Project Maven fiasco where it was revealed that Google was working with the Pentagon to develop AI that would analyze drone footage. After the news of Maven became mainstream, dozens of employees resigned in protest and thousands signed a petition asking Google to quit the project. Google ultimately caved and announced they would abandon Project Maven.

More recently, an investigation by The American Prospect revealed that Schmidt has ties to a largely unknown AI contractor. The report notes that during the Obama administration Google representatives were seen frequently enough at the White House that some "jokingly call the administration Google.gov", with more than 250 Google employees moving between the government and the company throughout Obama's presidency. Schmidt was one of these Google employees.

"공식적인 입장에서 그는 국방부와 정보 기관이 더 많은 기계학습 기술을 채택하도록 옹호했습니다. 한편 벤처 자본가로서 그는 이러한 기술을 판매하는 6 개 이상의 국가안보 신생 기업에 수백만 달러를 투자했습니다. 매우 고도의 기술이 정부로 돌아갑니다. "라고 Prospect는 씁니다.

특히 Schmidt는 그의 회사 Innovation Endeavours를 통해 AI 계약 업체 반란 방어 Rebellion Defense의 주요 투자자 중 한 명입니다. 반란 방어 Rebellion은 자사의 임무가 "AI 기반 기술을 통해 국방 임무를 강화하는 것"이라고 말합니다. 회사는 팀원이 "Netflix, Amazon, Twitter, Google 및 Microsoft의 초기 직원이며 많은 사람들이 미국 디지털 서비스, 국방 디지털 서비스 및 영국 정부 디지털 서비스에서 공무원으로 시간을 보냈습니다. GDS). "

"From official positions, he has advocated for the Defense Department and intelligence agencies to adopt more machine-learning technology. Meanwhile, as a venture capitalist, he has invested millions of dollars in more than a half-dozen national-security startups that sell those very technologies back to the government," the Prospect writes.

Specifically, Schmidt is one of the primary investors of AI contractor Rebellion Defense via his firm Innovation Endeavors. Rebellion states that its mission is to "empower the mission of national defense through AI driven technology." The company brags that it's team members were "early-stage employees at Netflix, Amazon, Twitter, Google, and Microsoft, and many have spent time as civil servants at the U.S. Digital Service, Defense Digital Service, and the U.K. Government Digital Service (GDS)."

Rebellion's co-founder and CEO Chris Lynch moved from the tech sector to D.C. in 2015 to run the Pentagon's Defense Digital Service (DDS). While at the DDS Lynch worked under three defense secretaries before leaving in 2019 to launch Rebellion Defense. Lynch's move from Big Tech to Military-Industrial Complex and back to private sector is illustrative of the ongoing revolving door between private sector and government.

The ease of access that Schmidt and his Google colleagues enjoyed during the Obama years appears to be returning in the early days of the Biden administration. The Prospect notes that in November, Rebellion was awarded a contract to create a single data-sharing network for the Air Force. Shortly after Biden was declared the next President, he began announcing his transition team. Big Tech companies were on the list, including Uber, Amazon, Google, and the relatively unknown Rebellion Defense.

The presence of Eric Schmidt on the AI Commission and as a primary investor in an AI contractor for the military is a clear conflict of interest. Schmidt's time at Google and his public statements have made it clear that he does not value privacy. Despite the AI Commission's draft report paying lip service to privacy protections, the American people should not expect the likes of Eric Schmidt or Rebellion Defense to protect them from the growing specter of AI-powered autonomous weapons.

Question Everything, Come To Your Own Conclusions