J.J.Johnker (johnker) wrote,
J.J.Johnker
johnker

Category:

Искусственный интеллект и естественная индивидуальность…Нет, мистер Робот, мы не машины!

Искусственный интеллект и естественная индивидуальность…Нет, мистер Робот, мы не машины!
Artificial intelligence and natural individuality…No, Mr. Robot, we aren't machines!


«Может ли машина думать?» :)

Искусственный интеллект (ИИ). Artificial intelligence (AI). После десятилетий весьма невнятных телодвижений внутри этого направления научной мысли ныне можно наблюдать весьма бурное развития, обусловленное, конечно, в первую очередь успехами практических компьютерных технологий. Моделирование нейронных сетей на IBM-360 было, мягко выражаясь, проблематичным. Если кто не в курсе, что такое IBM-360 - см. картинку, это был революционный компьютер от IBM, занимал целый машинный зал, объем оперативной памяти был примерно 0.5Mb -2Mb, в 2000 раз меньше, чем у современного смартфона. Ящики размером со стиральную машину на картинке это дисководы для внешних жестких дисков объемом < 30Mb, в 1000 раз меньше, чем у современной флэшки. Зато у всех была работа! 😊 Периферийные устройства, кондиционеры, электричество, системное ПО, расходные материалы – все это требовало наличия множества специалистов и IBM-360 обслуживали программисты, операторы, техники, электрики, механики. Но вот с моделированием искусственного интеллекта было практически никак. Шахматные программы на базе такой техники играли в силу 3-го спортивного разряда. Такая ситуация продолжалась довольно долго, десятилетия. Это время можно назвать временем застоя в развитии искусственного интеллекта. Однако Закон Мура продолжал действовать все эти десятилетия - быстродействие и память компьютеров увеличивались в два раза каждые два года. Именно эти успехи в технологиях и привели к тому, что сегодня ситуация кардинально изменилась. Шахматный гроссмейстер проигрывает шахматному приложению, установленному на обычный смартфон. Ура? Наступила эра искусственного интеллекта, который все за нас сделает? Нет. Профессура недовольна. В академической среде возникла обширная дискуссия, можно ли считать все эти успехи технологий достижениями в искусственном интеллекте. Т.е. является ли все это – программы-чемпионы в шахматах и го, программы-автопилоты для грузовиков, программы распознавания лиц – проявлением искусственного интеллекта или это просто результат возросших вычислительных возможностей процессоров?

Существует мнение, что ситуацию в теоретической науке в сфере ИИ можно признать в какой-то мере кризисной. Выражение «теоретическая наука» в данном случае является правомерным. Как существует смежные области науки «теоретическая физика» и «экспериментальная физика», так и в ИИ в дополнение к «теоретической науке» об ИИ развилась смежная область «технологической науки», а именно, исследование и создание практически применимых алгоритмов ИИ. Практически применимых на всем технологическом многообразии, которое мы наблюдаем в последнее время – мобильных устройствах, облачных ресурсах, сетевом взаимодействии. Успехи в технологиях на фоне относительного застоя в теоретической сфере привели к когнитивному диссонансу – некоторые ученые не признают эти успехи как результат развития ИИ. Начинаются споры о фундаментальных определениях – а что же такое ИИ и относится ли алгоритм работы конкретного приложения к ИИ. В связи с этим вспоминается декан факультета ВМК МГУ академик Тихонов, десятилетия назад читавший 1-го сентября для первокурсников вводную лекцию на тему «Может ли машина думать?». И первым делом задававший встречный вопрос «а что такое машина?» и «что такое думать?» :)

В данном случае, хочется сказать, что кризис - это хорошо. Потому что случился он после десятилетий застоя. А любой кризис лучше застоя. Кризис, как любое противоречие, в соответствии с материалистической философией и диалектикой, является двигателем прогресса. Все кризисы так или иначе разрешаются. В этом и состоит развитие. А раньше целые десятилетия в сфере ИИ было болото. Т.е. застой без кризисов. И без развития. Именно развитие компьютерных технологий дало новый толчок развитию ИИ.

Так что же такое искусственный интеллект? Является шахматная программа на телефоне, обыгрывающая гроссмейстера, проявлением ИИ? А программа Google, обыгравшая чемпиона мира в го? А программа, управляющая автомобилем без водителя? Программа, решающая дифференциальные уравнения? Уже ИИ или еще нет?

Споры в этой сфере являются результатом нечетко сформулированной предметной области. В соответствии с известным определением, искусственный интеллект — это свойство искусственных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Как видим, определение неформальное и не вполне конкретное. «Творческие функции» точному определению не поддаются. Отсюда и все споры. Ответ на вопрос является картина художника гениальным творческим произведением или безликой мазней, однозначному определению не поддается и является субъективным. То же самое с музыкой и любым другим видом творческой деятельности. Поэтому с сожалением или облегчением стоит признать все такие споры относительно ИИ ненаучными. Что не мешает делать некоторые практически важные выводы.

Тест Тьюринга «если общаясь с машиной, вы не можете отличить ее от человека, значит машина обладает ИИ» достаточным определением наличия ИИ считать тоже нельзя - при всем уважении к Тьюрингу. Успешная имитация человека, мимикрия под его поведение (например, в переписке) не означает наличия ИИ. Но, несомненно, уже является шагом к ИИ. Разработка чат-ботов это процесс, который скоро приведет к результату – с машиной можно будет полноценно общаться. Будет ли такая «машина думать»? Ответ – в какой-то степени. Этот ответ не всех устроит, но именно он правильно отражает ситуацию. Развитие ИИ это процесс от простого к сложному, от рефлексов и инстинктов (жестких алгоритмов) к разуму (адаптивным алгоритмам). Как видим, развитие ИИ это тоже эволюция – так же, как и развитие живых организмов. Развитие алгоритмов от простых к сложным, от вычислительных к адаптивным, от неэффективных к эффективным является процессом развития ИИ, процессом интеллектуализации алгоритмов. Собственно, и определение алгоритма в контексте ИИ тоже придется немного подработать. Поскольку в традиционном понимании алгоритм предполагает строгую последовательность заранее определенных шагов – чего в случае наличия ИИ может и не наблюдаться, так как адаптивные системы с ИИ способны самостоятельно формировать свои алгоритмы (например, в новейших системах распознавания это именно так и обстоит). Развитие нейронных сетей привело к оригинальным алгоритмам, совсем не симулирующим человеческое мышление. Та же программа-чемпион в го от Google не старается повторить человеческое мышление, и именно поэтому выигрывает у чемпиона мира. Это можно признать очень существенным результатом. Это пример того, что эволюция ИИ не будет копировать развитие человеческого интеллекта, а пойдет своим путем. В этом выводе заключаются и возможности и опасности.
Такой эволюционный подход позволяет ответить на вопрос о наличии ИИ в конкретных алгоритмах. Например, численное решение дифференциальных уравнений по заранее разработанному человеком алгоритму, конечно же, ИИ не является. А вот аналитическое решение с последовательным выводом, если компьютер сможет таковое предложить - будет очевидным примером ИИ. Алгоритм игры в шахматы или го, принимающий решение о выборе своего хода не только на основании прямого перебора вариантов, но самостоятельно формируемых оценок позиции, очевидно, также будет примером наличии ИИ в данном приложении.
Автомобили без водителей это уже ИИ? Видимо да, учитывая тот знаменательный факт, что они уже понемногу стали попадать в аварии, в которых страдают люди - т.е. стали практически полностью повторять поведение водителей-людей - в полном соответствии с определением ИИ! :) При всей формализованности задач типа распознавания лиц или игры в шахматы достижения именно сейчас и именно в этих задачах, ранее никак не поддающихся, позволяют сделать вывод, что сфера ИИ начинает демонстрировать реальные успехи - чего раньше совсем не наблюдалось.
Совершенно очевидно, что некоторый прогресс в некоторых сферах ИИ стал весьма существенным и не замечать этого нельзя. Мне кажется, нужно (и это важно) - попытаться разграничить то, что уже стало получаться в ИИ и то, что еще никак не получается – например, реальное творчество (а не мимикрия под него), создание стихов, поэм, картин, симфоний, матерных частушек - тут ИИ пока никак еще себя не проявил. Вопрос в том, а надо ли это? Пусть хоть что-то останется человеку…

Мы все машины???

Итак, если эволюция интеллекта, хоть искусственного, хоть естественного, как мы теперь знаем, это последовательный процесс и однозначное определение наличия или отсутствия интеллекта у компьютерной программы является проблематичным, но можно судить о степени интеллектуальности, то этот же подход можно применить и к живым существам? Можно ли, например, предположить, что насекомые – это фактически биологические автоматы, действующие по жестким алгоритмам? Да, это очевидно. Все поведение насекомых определяется инстинктами, которые являются фактически жесткими алгоритмами. И все процессы их жизнедеятельности также происходят полностью автоматически. Собственного разума у насекомых нет и никаких внешним разумом они не управляются. Фактически насекомые это биороботы. А животные? Все живые существа дышат автоматически и неосознанно. Все процессы жизнедеятельности любых живых существ, не только насекомых, также происходят автоматически. Можно сделать вывод, что все живые существа автоматы? И люди? Люди ведь тоже часто действуют автоматически, ну или почти автоматически? Можно ли считать людей биологическими машинами?

«Гуру» искусственного интеллекта, «Mr. Robot» Geoffrey Hinton: “We’re machines. We’re just produced biologically. Most people doing AI don’t have doubt that we’re machines. We’re just extremely fancy machines». «Мы-машины» - говорит Джеффри «Робот» Хинтон. «Мы просто созданы биологически. Большинство людей, занимающихся искусственным интеллектом, не сомневаются, что мы машины. Мы просто невероятно крутые машины».
«The majority is always wrong»... Как известно, большинство не так часто бывает правым при поиске истины. Галилей, Коперник и многие другие это точно знали…

Это высказывание напомнило изречение другого великого мыслителя. Греческие рабовладельцы не считали рабов людьми, обладающими сознанием. Аристотель: «Раб — это одушевленная собственность и самое совершенное из орудий. Следует заботиться об орудии настолько, насколько этого требует работа». Какой был молодец Аристотель! Мыслитель! Призывал заботиться о рабах и тоже называл их невероятно крутыми машинами… ☹ («Это сарказм? Да, это сарказм»)

Надеюсь, уже понятно, что данный, мягко выражаясь, технократический подход является весьма ущербным. Если оценивать в человеке только интеллектуальные или физиологические особенности, только его «технические параметры» то можно сделать такие выводы. Как говорил кое-кто «по форме правильно, а по сущеcтву издевательство». А еще мы все из мяса. И собаки все из мяса и дельфины - кто-то только с этой точки зрения их и рассматривает. У хищных зверей в джунглях критерий оценки живых существ базируется на этом показателе. Если оценивать человека с этой точки зрения, то выяснится, что человек еще и не очень хорошая машина. Так себе машина. Акула гораздо более совершенная, чем человек, плавающая машина. А американский орел гораздо более совершенная летающая машина, учитывая, что человек летать не умеет, его можно назвать никакой летающей машиной. Если говорить об интеллектуальных способностях, то сотовый телефон уже гораздо более умная, чем человек, машина – он и в шахматы уже лучше человека играет и числа любые перемножает и дорогу на карте показывает. Называть человека машиной, как минимум, некорректно и однобоко.
Человек все больше живет в симбиозе с машиной, в каких-то случаях машина помогает ему (когда он едет в автомобиле по дороге), в других он является придатком машины (когда он стоит на сборочным конвейере). Формируя среду, в каждом таком случае человек сам подвергается воздействию формируемой им среды.

Geoffrey Hinton об искусственном интеллекте (AI): «I think it’s going to make life a lot easier». Как всегда, любой фактор по законам диалектики имеет и обратную сторону – делая жизнь проще и легче, любое удобство делает проще и мозги, которым уже не надо напряженно работать. Когда труд офисных работников только начинал компьютеризироваться, сотрудники для того, чтобы соответствовать новым возросшим требованиям готовы были учиться «работе с компьютером» столько, сколько надо, посещали компьютерные курсы, задерживались на работе, осваивая первые громоздкие и неудобные «бизнес-приложения». Сегодня, научившись тыкать пальцем в гаджет, все считают себя готовыми специалистами и, если чего-то не понимают, считают, что это программное обеспечение такое плохое. Конечно же, так иногда и бывает. Но есть стойкое ощущение, что постоянно возрастающий вокруг нас уровень искусственного интеллекта во всех устройствах приводит к деградации уровня интеллекта естественного. Многие ли помнят таблицу умножения? «А зачем?» :)

Итак, при разработке технологий мы можем позволить себе рассматривать человека как машину – чтобы более эффективно создавать устройства и программное обеспечение, позволяющее «в симбиозе» с человеком облегчить ему жизнь – там, где это необходимо. Но продолжая древнюю традицию технократически оценивать человека как машину, мы в наши дни приходим к неприятному выводу – машины становятся во всем лучше человека. Во всем. В чем еще не стали лучше сегодня, в том обязательно станут лучше завтра. Умнее. Быстрее. Сильнее… Красивее… И так далее…

Вот вам главный вывод из всего вышесказанного:
Естественный отбор вывел человека на вершину эволюции (по крайней мере люди так думают). За счет мозгов, которые почему-то только ему достались (Дарвин был не в курсе почему это так). Развитый мозг был кардинальным конкурентным преимуществом, которым человечество пользовалось монопольно. Теперь этой монополии приходит конец. Конкуренции с искусственным интеллектом человечество не выдержит. Продолжая участвовать в конкуренции с машинами и друг с другом, люди проиграют.
И что же делать? Единственный выход – менять мировоззрение с технократического на гуманистическое. И строить общество, позволяющее не конкурировать. Почувствуйте разницу – не свободное от конкуренции, но позволяющее не конкурировать. Мы не машины. У нас есть индивидуальность. И у нас есть права. Собственно, права человека, а позже и права животных (на фото - композитор Юрий Антонов: «Это животные! У них есть права!») были декларированы именно в результате пришедшего понимания того, что человек, обладающий сознанием и волей, не должен восприниматься как вещь, орудие труда или машина. Но именно сейчас, когда технологии ИИ начинают бурно развиваться, проблема смены ценностной парадигмы становится особенно актуальной. Пожалуй, это еще один признак приближения к точке сингулярности. Только осознание ценности человеческой индивидуальности может помочь не воспринимать человека как уже не очень нужный придаток к машине, не выдерживающий никакой конкуренции с быстро развивающимися устройствами, обладающими ИИ. Но подробное рассмотрение данной проблемы, пожалуй, это тема уже другого изложения. Я, как технический специалист в ИТ, могу только заверить всех, что социальные алгоритмы для таких социальных проектов, совершенствующих общественные отношения, существуют. На этом пока могу остановиться…
В завершение приведу цитату из статьи о кибернетике из «Краткого философского словаря» изданного в СССР в 1954 г. Раньше эта статья студентам факультета Вычислительной Математики и Кибернетики МГУ казалась смешным анахронизмом времен «строительства коммунизма»: «Кибернетика ярко выражает одну из основных черт буржуазного мировоззрения — его бесчеловечность, стремление превратить трудящихся в придаток машины, в орудие производства и орудие войны. Вместе с тем для кибернетики характерна империалистическая утопия — заменить живого, мыслящего, борющегося за свои интересы человека машиной как в производстве, так и на войне». Теперь, по прошествии десятилетий, можно констатировать, что с развитием технологий ИИ «утопия заменить живого человека машиной как в производстве, так и на войне» уже почти осуществилась…
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments