История интеллекта. Почему мы так боимся роботов

Интеллект всегда использовали, чтобы прикрыть желание господствовать и разрушать. Неудивительно, что мы так боимся сверхумных машин.
265 25.10.17 11:30
Анимация Никита Асауляк, Иллюстрации специально для Update
Анимация Никита Асауляк, Иллюстрации специально для Update / Ира Лысенко

Update перевел статью Стивена Кейва, исполнительного директора и старшего научного сотрудника Центра изучения будущего интеллекта Кембриджского университета.

Он получил философское образование и работал в дипломатической службе Великобритани. Стивен пишет на философскую и научную тематики, в том числе для The New York Times, Guardian, The Atlantic и других изданий.


Пока во второй половине 20-го века, я проводил своё детство в Англии, концепция интеллекта разрасталась до невиданных масштабов.

Об интеллекте говорили, о нем спорили, а главное - его измеряли. Десятки тысяч английских детей прямо из зала для настольных игр отправились на тест "11-Plus", чтобы измерить свой IQ .

Результаты этих тестов определят, кто попадет в гимназию, чтобы подготовиться к университету и будущей профессии; кто создан для технического училища, чтобы стать квалифицированным рабочим; кто отправится в среднюю школу, научится работать с дрелью, и попадет прямо в мир низкооплачиваемого ручного труда.

Когда я проходил тест, определяющий моё место в мире, идее о том, что интеллект может быть измерен, как артериальное давление или размер ноги, было всего сто лет отроду. А вот мнение о том, что интеллект может определить твоё место в жизни, - постарше.

Оно проходит красной нитью через Западную философскую школу, от Платона до политики премьер-министра Великобритании Терезы Мэй. Когда говорят, что кто-то умён или глуп, имеют в виду не только умственные способности. Это также определяет, что им позволено. Иными словами, интеллект становится политичным.

Иногда такое разделение разумно: мы хотим, чтобы врачи, инженеры и чиновники не были глупцами. Но есть и тёмная сторона. Интеллект используют, чтобы указать на рамки дозволенного, таким образом, определяя, как другие смогут поступить по отношению к вам. На протяжении всей западной истории были те, кого считали менее умными.

В следствии, их завоевали, поработили, стерилизовали, убили, или даже съели (если говорить о животных).

Это очень старая, пожалуй, даже древняя история. Но в 21-ом веке, с развитием искусственного интеллекта (ИИ), проблема приняла неожиданный поворот. В последние годы, исследования ИИ достигли выдающегося прогресса, и многие специалисты считают, что этот прорыв может закончиться плохо. Эксперты напуганы и заваливают свои Twitter каналы ссылками из Скайнета.

Чтобы понять, что нас так пугает, давайте посмотрим на интеллект как на политическую концепцию, в частности - на ее долгую историю, и подоплёку господства.

Интеллект принадлежит белому мужчине

Сам термин "интеллект" никогда не пользовался популярностью у англоязычных философов. Он также не имеет прямого перевода на немецкий или древнегреческий языки (два великих языка западной философии). Но это совсем не значит, что философы интеллектом не интересовались.

В действительности, они были просто одержимы интеллектом, а точнее, его частью - разумом или рациональностью. Термин "интеллект" сумел затмить своего старомодного предшественника в общественно-политическом дискурсе, только с появлением относительно новой дисциплины - психологии, заявившей свои права на интеллект.

Разум остаётся его основной частью, хотя многие учёные выступали за более широкое понимание термина. Вот почему я упомянул этого предка, говоря об исторической роли интеллекта.

История интеллекта начинается с Платона. Во всех своих трудах, он приписывает огромную ценность мышлению, объявляя (через уста Сократа), что неисследованная жизнь не стоит жизни. Платон поднялся из мира мифов и мистики, чтобы предъявить что-то новое. Истина реальности может быть открыта через разум, или благодаря применению интеллекта, как мы считаем сегодня.

В своём диалоге "Государство", Платон пришёл к заключению, что идеальным правителем является "царь-философ", поскольку только философ может различить правильный порядок вещей. Запустив идею, что лучшие умы должны править над остальными, он предложил интеллектуальную меритократию, определяющую место человека по его способностям.

В те времена подобная идея была революционной. Афины уже экспериментировали с демократией, правом на народные собрания, но только для граждан мужского пола, не обязательно умных. В других государствах правящие классы состояли из аристократии, или избранных, получивших божественное наставление (теократия), или просто самых сильных (тирания).

Анимация специально для Update Никита Асауляк

Новая идея Платона попала в уши жаждущих интеллектуалов, включая его ученика Аристотеля. Он всегда был более практичным, системным мыслителем. Аристотель понимал превосходство интеллекта, и использовал его для, так называемой, естественной социальной иерархии.

В своей книге "Политика" он объясняет: "Кто-то должен править, а кто-то подчиняться, это не только необходимо, но и целесообразно; с момента рождения, некоторым дано быть субъектом, а другим- источником власти".

Владыку определяет именно наличие "рационального элемента".

"У образованных мужчин это наиболее выражено, и естественно, они должны править женщинами, а также людьми, живущими ручным трудом", которые поэтому "по своей природе являются рабами". Спускаясь вниз по лестнице, мы все еще можем увидеть животных, которые так неразумны, что "намного лучше, если ими управляет человек".

На заре западной философии символом интеллекта стал образованный европеец, конечно же мужчина. Это становится аргументом в пользу доминирования над женщинами, низшими классами, нецивилизованными народами и животными.

В то время как Платон боролся за превосходство разума, он поместил его в рамки довольно неуклюжей утопии. Только сто лет спустя, Аристотель предложит правило мыслящего человека, как очевидное и естественное.

Прошло более двух тысяч лет с тех пор, но нам только предстоит развенчать это убеждение.

Покойный австралийский философ и защитник природы, Вал Плумвуд утверждал, что гиганты греческой философии создали ряд взаимосвязанных дуализмов, которые продолжают питать наши мысли и сегодня.

Противоположные категории, такие как: умный/глупый, рациональный/эмоциональный и ум/тело, неявно или явно связаны с другими, такими как: мужчина/женщина, цивилизованный/примитивный и человек/животное. Эти дуализмы не являются ценностно нейтральными. Они объединяются в дуализм по Аристотелю - доминирующий/подчинённый или господин/раб.

Вместе они создают отношение господства, а понятия патриархата и рабства становятся частью естественного порядка вещей.

Дуальный подход

Западная философия, в ее современном обличье, началась с ловкого дуалиста, Рене Декарта. В отличие от Аристотеля, он даже не допускал континуума интеллекта среди животных. По его словам, разум - исключительно удел человека.

Также он размышлял о идее христианского богословия. Более тысячи лет тому интеллект был отдан в собственность душе с искрой Божьей, зарезервирован для счастливцев, созданных по "образу и подобию".

Декарт изобразил природу буквально бессмысленной, настолько лишённой внутренней ценности, что тем самым узаконило угнетение других видов без всякой за это вины.

Идея о том, что интеллект определяет человечность, сохраняется и в "Просвещении". Его с энтузиазмом поддержал Кант, пожалуй, самый влиятельный философ тех времён. Только разумные существа имели моральное значение для Канта.

Рациональные создания должны называться "личностями" и иметь "цель в самих себе". Существа, не наделённые разумом, с другой стороны, имели "только относительную ценность, и в следствии, могут называться вещами". Вы можете сделать с ними все, что захотите.

Иллюстрации специально для Update
Иллюстрации специально для Update / Ира Лысенко

По мнению Канта, человек разумный имеет бесконечную ценность и достоинство, тогда как у неразумного или глупого - нет ничего. Его аргументы более обширны, но по существу, он приходит к такому же выводу, что и Аристотель: есть по природе повелители и рабы, а интеллект - это то, что их отличает.

Эта мысль была развита, чтобы стать сердцем логики колониализма.

Аргументы были таковы: небелые народы - менее умны, поэтому у них нет компетенций, чтобы управлять своими людьми и своими же землями. Поэтому совершенно законно можно уничтожить их культуры, и занять их территорию. Это даже подавалось в виде долга- "бремя белого человека".

Поскольку интеллект определял человечность, а эти народы были менее умны - они были и менее человечны, поэтому их было легко убить или поработить.

Подобную логику применяли и к женщинам, которые считались слишком ветреными и сентиментальными, чтобы пользоваться привилегиями "человека рационального". В Англии 19-го века женщины были защищены законом меньше, чем домашние животные, как показала историк Джоанна Бoурк из университета Биркбек в Лондоне.

Как оправдать насилие

Сэр Фрэнсис Гальтон обычно упоминается, как основатель психометрии, "науки" измерения разума. Его вдохновила работа "Происхождение видов" (1859), написанная его двоюродным братом Чарльзом Дарвином. Это натолкнуло Гальтона на мысль, что интеллектуальные способности наследственны, и могут быть усилены посредством селекционного размножения.

Он решил научно идентифицировать наиболее интеллектуальных членов общества, и поощрять их к размножению друг с другом. Менее интеллектуально развитые индивиды должны быть отстранены от размножения, ради самого же вида. Таким образом, евгеника и тест интеллекта вместе появились на свет.

В последующие десятилетия, после плохого прохождения этих тестов, огромное количество женщин в Европе и Америке были подвергнуты принудительной стерилизации. В одной только Калифорнии - более 20 тысяч человек.

Оценка интеллекта использовалась для оправдания ужаснейших варварских эпизодов нашей истории.

Но у "правила разума" всегда были свои критики. От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до постмодернизма - существовало множество философских традиций, которые бросали вызов утверждению, что мы так же умны, как нам хотелось бы считать, что интеллект - это высшая добродетель.

Мы надеемся, что наши чиновники умны, но мы не всегда выбираем самых умных политиков. Тем не менее, даже такой популист, как Дональд Трамп, чувствует необходимость заявить, что его администрация "на сегодняшний день является кабинетом с самым высоким IQ за всю историю".

Вместо того, чтобы бросить вызов идее иерархии интеллекта как таковой, многие критики атакуют систему, которая позволила подняться на пьедестал элите, состоящей из белых мужчин.

Почему мы не доверяем искусственному интеллекту

Экзамен "11+", который я проходил, представляет собой интересный, и очень двусмысленный пример одной из таких системы. Он был создан для выявления ярких молодых дарований всех слоёв и вероисповеданий.

На самом деле те, кто прошёл тест успешно, были из белых семей среднего класса, непропорционально более обеспеченных ресурсами. Тем самым, участники сами утвердились в своём положении и преимуществах.

Размышляя об идее интеллекта, как об оправдании привилегий и господства более 2000 лет подряд, не удивительно, что неизбежная перспектива сверхумных роботов наполняет нас страхом.

2001 год, "Космическая одиссея", фильм "Терминатор". Писатели фантазировали о том, что машины восстанут против нас. Теперь мы можем понять, почему.

Если мы привыкли полагать, что верхние позиции в обществе должны занимать самые смышлёные, то, конечно же, мы можем ожидать, что это будут роботы с огромными мозгами, а мы естественно уйдем на дно.

Если мы впитали идею о том, что более умные могут колонизировать менее умных, тем более вероятно, что мы будем бояться стать порабощенными нашими сверхумными творениями. Если с помощью интеллекта, мы оправдали собственные позиции власти, конечно же, мы увидим ИИ, как экзистенциальную угрозу.

Этот рассказ о привилегии может объяснить, почему страх перед искусственным интеллектом является преобладающим среди белых мужчин на Западе. Другие группы пережили долгую историю господства начальников-самозванцев, а также продолжают бороться с реальными угнетателями.

С другой стороны, белые люди привыкли быть на вершине иерархии. Если придут новые существа, превосходящие именно в том, что всегда использовались для оправдания мужского господства, они потеряют больше всех.

Я не хочу предполагать, что все наше беспокойство по поводу ИИ необоснованно. Существуют реальные риски, связанные с использованием передовых технологий, так же как и огромные преимущества. Но шанс оказаться угнетённым роботами также, как коренные народы Австралии притеснялись европейскими колонистами, не является номером один в этом списке.

Лучше подумать о том, что мы можем создать с ИИ, вместо того, что он может сделать сам по себе. Мы, люди, гораздо более склонны разворачивать умные системы друг против друга, или становиться чрезвычайно зависимыми от них.

Если ИИ и нанесет нам вред, то скорее всего, потому, что мы зададим ему неправильные цели, а не потому, что они хотят победить нас. Наибольшим риском все еще остаётся естественная глупость, а не искусственный интеллект.

Интересно поразмышлять о том, как бы мы смотрели на развитие ИИ, имея другой взгляд на интеллект. Платон считал, что философов будут уговаривать стать королями, поскольку они естественным образом предпочитают созерцать над тем, как властвовать людьми.

Другие традиции, особенно восточные, видят умного человека презирающим атрибуты власти, отдаляющегося от мелочей, невзгод и дел мирских.

Представьте, если бы такие взгляды были широко распространены: все бы думали, что самый умный не тот, кто утверждает право на власть, а тот, кто ушёл медитировать в уединении, чтобы освободиться от мирских желаний.

Что если бы самым умным считался тот, кто вернулся, чтобы нести мир и просветление. Мы все бы еще боялись роботов, что умнее нас?

Источник: Aeon
Автор:
перевод Карины Трофим

Рекомендуем