Развитие искусственного интеллекта и мифы, связанные с ним

АННОТАЦИЯ

Стивен Хокинг, Илон Маск, Стив Возняк, Билл Гейтс и многие другие крупные деятели науки и техники недавно выразили озабоченность в средствах массовой информации и в открытых письмах по поводу рисков, связанных с ИИ, к которым присоединились многие ведущие исследователи ИИ. Почему эта тема вдруг оказалась в заголовках газет? Мысль о том, что поиски сильного ИИ в конечном счете увенчаются успехом, долгое время считалась научной фантастикой. Тем не менее, благодаря недавним прорывам, многие вехи ИИ были достигнуты, что заставило экспертов серьезно относиться к возможности появления сверхразума в нашей жизни. В то время как некоторые ученые все еще предполагают, что искусственный интеллект человеческого уровня будет достигнут через столетия, большинство исследователей искусственного интеллекта на конференции в Пуэрто-Рико в 2015 году предположили, что это произойдет до 2060 года.

ABSTRACT

Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates, and others have recently expressed concern in social media regarding risks associated with AI joined by many leading researchers in the field of Artificial Intelligence. The question is why this topic is suddenly in the headlines? The idea that the search for a strong AI will eventually succeed has long been considered science fiction. The thought that the search for strong AI may end up successful for quite some time was considered as science fiction related. Nevertheless, due to the recent breakthrough, many milestones have been achieved that made the scientist reconsider the possibility of superintelligence creation in this lifetime. While some scientists still think that AI on the human level will not be achieved in the next couple of centuries, others during the Puerto-Rico conference in 2015 suggested that it will have been achieved by the year 2060.

Ключевые слова: общий искусственный интеллект, узкий искусственный интеллект, развитие искусственного интеллекта.

Keywords: General artificial intelligence, narrow artificial intelligence, development of artificial intelligence.

Искусственный интеллект (ИИ) развивается очень быстро, и в то время, как научная фантастика часто изображает ИИ как роботов с человекоподобными характеристиками, ИИ может охватывать все, что угодно, от поисковых алгоритмов Google до IBM Watson и автономного оружия.

Искусственный интеллект сегодня известен как узкий ИИ (или слабый ИИ), поскольку он предназначен для выполнения узкой задачи (например, только распознавание лиц или только поиск в интернете или только вождение автомобиля). Однако долгосрочной целью многих исследователей является создание общего ИИ (AGI или сильного ИИ). В то время как узкий ИИ может превзойти человека в любой конкретной задаче, такой как игра в шахматы или решение уравнений, AGI превзойдет человека почти в каждой когнитивной задаче.

Большинство исследователей сходятся во мнении, что сверхразумный ИИ вряд ли способен проявлять такие человеческие эмоции, как любовь или ненависть, и что нет никаких оснований ожидать, что ИИ станет намеренно доброжелательным или злонамеренным. Вместо этого, рассматривая, как ИИ может стать риском, эксперты считают наиболее вероятными два сценария:

1. ИИ запрограммирован делать что-то разрушительное: автономное оружие-это системы искусственного интеллекта, которые запрограммированы убивать. В руках неподходящего человека это оружие может легко привести к массовым жертвам. Более того, гонка вооружений ИИ может непреднамеренно привести к войне ИИ, которая также приведет к массовым жертвам. Чтобы не иметь возможности быть скомпрометированным врагом, это оружие было бы разработано так, чтобы его было чрезвычайно трудно просто “отключить”. Этот риск присутствует даже при узком ИИ, но растет по мере роста уровня интеллекта ИИ и его автономности.

2. ИИ запрограммирован приносить пользу, но он применяет деструктивные методы для достижения своей цели: если перед сверхразумной системой стоит амбициозный проект по геоинженерии, она может нанести ущерб нашей экосистеме как побочный эффект и рассматривать попытки человека остановить ее как угрозу, которую необходимо устранить.

Поскольку ИИ обладает потенциалом стать более разумным, чем любой человек, нет надежного способа предсказать, как он будет себя вести. Мы не можем использовать прошлые технологические достижения в качестве основы, потому что мы никогда не создавали ничего, что могло бы, вольно или невольно, «перехитрить» нас. Лучшим примером того, с чем мы могли бы столкнуться, может быть наша собственная эволюция: человечество контролирует планету потому, что обладает разумом. Если мы больше не самые умные, то уверены ли мы в том, что сохраняем контроль?

Увлекательный разговор происходит о будущем искусственного интеллекта и о том, что он будет/должен означать для человечества. Ведущие мировые эксперты расходятся во мнениях: каким будет будущее влияние ИИ на рынок труда; если/когда будет разработан ИИ человеческого уровня; приведет ли это к интеллектуальному взрыву; и является ли это чем-то, что мы должны приветствовать или бояться. Но есть также много примеров псевдо-споров, вызванных непониманием людей природы ИИ. Чтобы помочь себе сосредоточиться на интересных противоречиях и открытых вопросах — а не на недоразумениях, необходимо прояснить некоторые из наиболее распространенных мифов.

Первый миф касается временной шкалы: сколько времени потребуется, чтобы машины значительно превзошли человеческий интеллект? Распространенное заблуждение состоит в том, что мы знаем, что получим сверхчеловеческий ИИ в этом столетии. На самом деле, история полна технологических излишеств. Где же те термоядерные электростанции и летающие машины, которые нам обещали к этому времени получить? Искусственный интеллект также неоднократно был чрезмерно раскручен в прошлом, даже некоторыми из основателей этой области. Например, Джон Маккарти, который ввел термин "искусственный интеллект“, Марвин Мински, Натаниэль Рочестер и Клод Шеннон написали чрезмерно оптимистичный прогноз о том, что может быть достигнуто в течение двух месяцев с помощью компьютеров каменного века:" мы предлагаем провести 2-месячное исследование искусственного интеллекта для 10 человек летом 1956 года в Дартмутском колледже [...] будет предпринята попытка найти, как заставить машины использовать язык, формировать абстракции и концепции, решать виды проблем, которые сейчас зарезервированы для людей, и совершенствовать себя. Мы считаем, что значительный прогресс может быть достигнут в одной или нескольких из этих проблем, если тщательно отобранная группа ученых будет работать над ними вместе в течение лета.”

С другой стороны, популярным контрмифом является то, что мы знаем, что не достигнем сверхчеловеческого ИИ в этом столетии. Исследователи сделали широкий спектр оценок того, насколько мы далеки от сверхчеловеческого ИИ, но мы, конечно, не можем с большой уверенностью сказать, что вероятность равна нулю в этом столетии, учитывая мрачный послужной список таких техно-скептических прогнозов. Например, Эрнест Резерфорд, возможно, величайший физик-ядерщик своего времени, сказал в 1933 году — менее чем за 24 часа до изобретения Силардом ядерной цепной реакции — что ядерная энергия-это “вздор". А Королевский астроном Ричард Вулли в 1956 году назвал межпланетное путешествие “полным провалом”. Самая крайняя форма этого мифа заключается в том, что сверхчеловеческий ИИ никогда не появится, потому что это физически невозможно. Однако физики знают, что мозг состоит из кварков и электронов, устроенных так, чтобы действовать как мощный компьютер, и что нет никакого закона физики, препятствующего нам создавать еще более разумные кварковые сгустки.

Было проведено несколько опросов, в которых исследователи ИИ спрашивали, через сколько лет, по их мнению, у нас будет искусственный интеллект человеческого уровня с вероятностью не менее 50%. Все эти опросы дают один и тот же вывод: ведущие мировые эксперты расходятся во мнениях, поэтому мы просто не знаем. Например, в таком опросе исследователей ИИ на конференции ИИ Пуэрто-Рико в 2015 году средний (медианный) ответ был к 2045 году, но некоторые исследователи предположили, что через сотни лет или больше.

Еще одно распространенное заблуждение состоит в том, что единственные люди, питающие озабоченность по поводу ИИ и выступающие за исследования безопасности ИИ, — это люди, которые мало что знают об ИИ. Когда Стюарт Рассел, автор стандартного учебника ИИ, упомянул об этом во время своего выступления в Пуэрто-Рико, аудитория громко рассмеялась. Связанное с этим заблуждение состоит в том, что поддержка исследований безопасности ИИ чрезвычайно спорна.

Не тратя времени на вышеупомянутые заблуждения, необходимо сосредоточиться на более важных вопросах, в ответах на которые даже эксперты расходятся во мнениях. Должны ли мы разрабатывать смертоносное автономное оружие? Как автоматизация в производстве повлияет на рабочие места? Предпочтительнее ли новые рабочие места, заменяющие старые, или более высокий уровень безработицы, но с применением полностью автоматизированного производства? Будем ли мы управлять разумными машинами или они будут управлять нами? Будут ли разумные машины заменять нас или сосуществовать с нами? Что значит быть человеком в век искусственного интеллекта?

Список литературы:

1. Гаков В., Ультиматум. Ядерная война и безъядерный мир в фантазиях и реальности
2.  Стюарт И., Математика космоса: как современная наука расшифровывает вселенную. Траектория. Москва, 2018
3.  AI safety conference in Puerto Rico. Future of life institute. 2015. Режим доступа:  https://futureoflife.org/2015/10/12/ai-safety-conference-in-puerto-rico/
4.  Grace K., Salvatier J., Dafoe A., Zhang B., Evans O. When Will AI Exceed Human Performance? Evidence from AI Experts. Future of Humanity Institute, Oxford University, AI Department of Political Science, Yale University
5.  Hawking, Musk, Wozniak Warn About Artificial Intelligence's Trigger Finger. 2015. Режим доступа: https://www.forbes.com/sites/ericmack/2015/07/27/hawking-musk-wozniak-freaked-about-artificial-intelligence-getting-a-trigger-finger/#6ed822537416
6.  Tegmark M., Life 3.0: Being Human in the Age of Artificial Intelligence. Penguin UK,  2017 г.
7.  Watson выходит за рамки искусственного интеллекта. IBM. Режим доступа:  https://www.ibm.com/ru/watson/