[영-한] 이스라엘, 인공지능 위험 해결을 위한 세계 조약 체결 | Israel signs global treaty to address risks of artificial intelligence

The treaty, spearheaded by the Council of Europe and signed by 57 states, including the US, is a legal framework to tackle harmful and discriminatory outcomes of AI systems

Israel has joined the United States, United Kingdom, and several other European Union countries in signing an international treaty on how to harness the use of artificial intelligence for the common good while ensuring that democracy, human rights, and the rule of law are not undermined.

“Israel’s signing of the first global convention for artificial intelligence emphasizes our commitment to responsible innovation and human rights values,” said Innovation, Science and Technology Minister Gila Gamliel. “This convention places Israel as a full partner in the creation of international policy in the field in the coming years and will place us at the forefront of the world’s advanced countries.”

It is the first binding international treaty on AI – signed by 57 countries, including 46 Council of Europe member states – now waiting to be ratified by the states. Once ratified, the signatory countries will be accountable for any harmful and discriminatory outcomes of AI systems. That’s as lawmakers around the world are contemplating regulation of the technology and how to deal with safety issues and other misuse and dangers it already poses.

The Council of Europe’s convention on AI signed on Thursday was created to formulate global fundamental principles, rules, and standards to ensure that the deployment of the groundbreaking and fast-developing technology is compatible with human rights, democracy, and the rule of law.

The move comes as there are concerns that Israel is falling behind the USand Europe when it comes to pulling in investments in startups that develop AI-based technologies amid the ongoing war with the Hamas terror group.

Artificial intelligence — the tech that gives computers the ability to learn fast — has been around since the 1950s. But over the last decade, it has been enjoying a renaissance made possible by the higher computational power of chips and the vast amount of data available online.

Advances in the field have enabled computers to analyze datasets and find useful patterns to solve problems, with the machine at times outwitting the human brain. AI and machine learning are already used for a wide range of applications, from facial recognition to the detection of diseases in medical images to global competitions in games and warfare.

Speaking at a conference in Tel Aviv this week, AI expert Prof. Amnon Shashua, co-founder of Israeli startup AI21 Labs, said that the advances in generative AI to create images, improve data research and text, and other tools are very nice and useful, but do not yet constitute a revolution. AI21 Labs is a natural language processing (NLP) company, which has the vision to bring generative AI to the masses and competes against OpenAI.

“It is a technological wave that has the potential to imitate human intelligence in solving complex problems in all areas of human knowledge, instead of human experts,” said Shashua. “Among those who are involved in working on AI advanced models, there is a sentiment that it is coming around the corner.”

“The very fast advancement of these models creates a sentiment that in the near future, these systems will not only be able to summarize articles but solve problems like a human expert, and then everything changes meaning that the relationship between us and machines is going to undergo a dramatic change,” he added.

Meanwhile, nations are investing huge amounts of money in the field, as it is expected to be the heart of technology going forward and a key to economic growth worldwide.

While AI technology is touted as having the potential to transform the world we live in the coming years, the big promise potentially poses also catastrophic risks, could do significant harm, and undermine democracy, many experts behind the development of AI systems have been warning.

OpenAI CEO Sam Altman has been urging that government intervention will be critical to mitigating the risks of increasingly powerful AI systems. Altman has proposed the need for an international monitoring regulator along the lines of the United Nations nuclear agency to crack down on harmful AI use.

Among the concerns is the potential abuse of AI in critical infrastructure, education, human resources, and public order. The evolvement of generative AI (GenAI), which can create complex content that resembles human creativity, in the likes of OpenAI’s ChatGPT has led to the use of the tool to create deepfakes, that could lead to the online dissemination of false and misleading claims about the Holocaust; to cheat on homework assignments; spread falsehoods; and violate copyright protections. Beyond that, the concern is that advanced AI systems in the future could manipulate humans into ceding control.

“Despite the current war and all the pain and challenges that it brings, we need to remain attuned to, and involved with, international processes and organizations,” said Deputy Attorney General Dr. Gilad Noam. “Just as importantly, we want to signal to our allies and friends across the globe that we share a common desire, namely: to foster innovation while protecting human rights.”

The treaty obligates the signatories to ensure that AI systems are not used to “undermine the integrity, independence and effectiveness of democratic institutions and processes, including the principle of the separation of powers, respect for judicial independence and access to justice.”

The legal framework also imposes a general duty on the states to monitor the outcomes of AI systems and take measures to protect human rights in accordance with international and national law, including the protection of the privacy rights of individuals and their personal data are legally protected.

To comply with the standards of the treaty, the signatory states will be required to act to identify, evaluate, and minimize risks posed by AI systems, based on a risk assessment that weighs the practical and potential consequences for human rights, democracy and the rule of law. However, the treaty did not list any sanctions or fines in cases of non-compliance and raises questions about its effective enforceability.

---

유럽 ​​평의회가 주도하고 미국을 포함한 57개국이 서명한 이 조약은 AI 시스템의 해롭고 차별적인 결과를 해결하기 위한 법적 틀입니다.

이스라엘은 미국, 영국 및 기타 여러 유럽 연합 국가와 함께 인공 지능을 공동의 이익을 위해 활용하는 방법에 대한 국제 조약에 서명하면서 민주주의, 인권 및 법치주의가 훼손되지 않도록 했습니다.

혁신, 과학 및 기술 장관인 길라 감리엘은 "이스라엘이 인공 지능에 대한 최초의 글로벌 협약에 서명한 것은 책임 있는 혁신과 인권 가치에 대한 우리의 헌신을 강조하는 것입니다."라고 말했습니다. "이 협약은 이스라엘을 향후 몇 년 동안 이 분야의 국제 정책 수립에 완전한 파트너로 자리 매김하고 우리를 세계 선진국의 선두에 올려놓을 것입니다."

이 조약은 46개 유럽 평의회 회원국을 포함한 57개국이 서명한 최초의 구속력 있는 AI 국제 조약이며 현재 각국의 비준을 기다리고 있습니다. 일단 비준되면, 서명국은 AI 시스템의 해롭고 차별적인 결과에 대해 책임을 져야 합니다. 이는 전 세계의 입법자들이 이 기술의 규제와 이미 제기된 안전 문제와 기타 오용 및 위험을 처리하는 방법을 고려하고 있는 시점입니다.

목요일에 서명된 유럽 평의회의 AI 협약은 획기적이고 빠르게 발전하는 기술의 배포가 인권, 민주주의 및 법치주의와 양립할 수 있도록 하는 글로벌 기본 원칙, 규칙 및 표준을 공식화하기 위해 만들어졌습니다.

이러한 움직임은 하마스 테러 집단과의 지속적인 전쟁 속에서 AI 기반 기술을 개발하는 스타트업에 대한 투자를 유치하는 측면에서 이스라엘이 미국과 유럽에 뒤처지고 있다는 우려가 제기됨에 따라 나온 것입니다.

컴퓨터가 빠르게 학습할 수 있는 능력을 부여하는 기술인 인공 지능은 1950년대부터 존재해 왔습니다. 하지만 지난 10년 동안 칩의 더 높은 연산 능력과 온라인에서 제공되는 방대한 양의 데이터로 인해 르네상스를 누리고 있습니다.

이 분야의 발전으로 컴퓨터는 데이터 세트를 분석하고 문제를 해결하는 데 유용한 패턴을 찾을 수 있게 되었으며, 기계는 때때로 인간의 뇌를 따돌렸습니다. AI와 머신 러닝은 얼굴 인식에서 의료 이미지의 질병 탐지, 게임 및 전쟁에서의 글로벌 경쟁에 이르기까지 광범위한 응용 분야에 이미 사용되고 있습니다.

이번 주 텔아비브에서 열린 컨퍼런스에서 연설한 이스라엘 스타트업 AI21 Labs의 공동 창립자인 AI 전문가 Amnon Shashua 교수는 이미지를 만들고, 데이터 연구 및 텍스트를 개선하고, 기타 도구를 사용하는 생성 AI의 발전은 매우 훌륭하고 유용하지만 아직 혁명을 구성하지는 않는다고 말했습니다. AI21 Labs는 생성 AI를 대중에게 제공하려는 비전을 가진 자연어 처리(NLP) 회사로 OpenAI와 경쟁하고 있습니다.

Shashua는 "인간 전문가 대신 모든 인간 지식 분야에서 복잡한 문제를 해결하는 데 있어 인간 지능을 모방할 수 있는 잠재력을 가진 기술 흐름입니다."라고 말했습니다. "AI 고급 모델 작업에 참여하는 사람들 사이에서는 AI가 곧 다가올 것이라는 의견이 있습니다."

"이러한 모델의 매우 빠른 발전은 가까운 미래에 이러한 시스템이 기사를 요약할 뿐만 아니라 인간 전문가처럼 문제를 해결할 수 있을 것이라는 의견을 만들어냅니다. 그리고 모든 것이 바뀌어 우리와 기계 간의 관계가 극적으로 변할 것이라는 의미입니다."라고 그는 덧붙였습니다.

한편, 국가들은 이 분야에 막대한 자금을 투자하고 있습니다. 앞으로 기술의 핵심이 될 것으로 예상되고 전 세계 경제 성장의 열쇠가 될 것으로 예상되기 때문입니다.

AI 기술은 앞으로 몇 년 안에 우리가 사는 세상을 바꿀 잠재력이 있다고 선전되지만, 이 큰 약속은 잠재적으로 치명적인 위험을 초래할 수 있으며, 상당한 피해를 입힐 수 있고, 민주주의를 훼손할 수 있다고 AI 시스템 개발의 배후에 있는 많은 전문가들은 경고해 왔습니다.

OpenAI CEO 샘 알트만은 정부의 개입이 점점 더 강력해지는 AI 시스템의 위험을 완화하는 데 중요할 것이라고 주장해 왔습니다. 알트만은 유엔 핵 기관과 같은 국제적 감시 규제 기관이 유해한 AI 사용을 단속해야 한다고 제안했습니다.

우려 사항 중 하나는 중요 인프라, 교육, 인적 자원 및 공공 질서에서 AI가 잠재적으로 남용될 수 있다는 것입니다. OpenAI의 ChatGPT와 같은 복잡한 콘텐츠를 인간의 창의성과 유사하게 만들 수 있는 생성 AI(GenAI)의 발전으로 인해 이 도구를 사용하여 딥페이크를 만들게 되었고, 이는 홀로코스트에 대한 거짓되고 오해의 소지가 있는 주장을 온라인에 유포하고, 숙제 과제를 부정하고, 허위 사실을 퍼뜨리고, 저작권 보호를 위반하게 될 수 있습니다. 그 이상으로 우려 사항은 미래에 고급 AI 시스템이 인간을 조종하여 통제권을 양보하게 할 수 있다는 것입니다.

"현재의 전쟁과 그것이 가져오는 모든 고통과 어려움에도 불구하고, 우리는 국제적 프로세스와 조직에 계속 관심을 기울이고 참여해야 합니다." 길라드 노엄 부장관이 말했습니다. "마찬가지로, 우리는 전 세계의 동맹국과 친구들에게 우리가 공통된 열망을 공유한다는 것을 알리고 싶습니다. 즉, 인권을 보호하면서 혁신을 촉진하고자 합니다."

조약은 서명국이 AI 시스템이 "권력 분립 원칙, 사법 독립성 존중 및 사법 접근성을 포함하여 민주적 기관과 프로세스의 무결성, 독립성 및 효과성을 훼손하는 데 사용되지 않도록" 보장할 의무를 부여합니다.

법적 틀은 또한 국가에 AI 시스템의 결과를 모니터링하고 국제법 및 국가법에 따라 인권을 보호하기 위한 조치를 취해야 하는 일반적인 의무를 부과합니다. 여기에는 개인의 사생활권과 개인 데이터가 법적으로 보호됩니다.

조약의 기준을 준수하기 위해, 서명국은 인권, 민주주의, 법치주의에 대한 실질적이고 잠재적인 결과를 평가하는 위험 평가에 따라 AI 시스템이 초래하는 위험을 식별, 평가, 최소화하기 위해 행동해야 합니다. 그러나 조약에는 불이행 시 제재나 벌금이 명시되어 있지 않으며, 효과적인 집행 가능성에 대한 의문이 제기됩니다.

<출처 : https://www.timesofisrael.com/israel-signs-global-treaty-to-address-risks-of-artificial-intelligence/ >