Когда искусственный интеллект получит сознание
Как мы уже писали выше, интеллекта компьютерам хватает, а вот сознание у них отсутствует. Как же создать «искусственный разум», который будет обладать сознанием и станет разумом безо всяких кавычек? «Сделать его уязвимым», — говорят исследователи Кинсон Ман и Антонио Дамасио.
Кадр из фильма Ex Machina, главная героиня которого — обладающий сознанием робот Ава / New York Times
По мнению ученых, ощущая собственную уязвимость и пытаясь избежать гибели (или, например, отключения), ИИ сможет познать ценность собственного существования и на ее основе получить полноценное сознание. Вынужденный думать о хрупкости существования и затрачивая усилия на поддержание целостности и функциональности «организма», искусственный интеллект получит гораздо больше возможностей для самосовершенствования.
Для реализации подобной концепции Ман и Дамасио предлагают скомбинировать методики машинного обучения и так называемую мягкую робототехнику (роботизированные устройства, созданные из мягких материалов, имитирующих биологическую ткань). Подобная комбинация создаст у роботов с AI определенное чувство собственной уязвимости и гомеостатическую реакцию на внешние изменения.
Игра в шахматы
Знаменитый Deep Blue был крут, но в первом матче проиграл Гарри Каспарову со счётом 2 : 4, а во втором – выиграл с результатом 3.5 : 2.5. Но он изначально был «накачан» знаниями.
А новая система AlphaZero до турнира знала лишь как ходят фигуры и какова цель игры. Но она обучилась и за четыре часа победила программу по игре в шахматы Stockfish 8, которая считалась лучшей в мире.
AlphaZero – улучшенная версия AlphaGo Zero. Она 100 раз подряд обыграла знаменитую систему AlphaGo, которой удалось одержать победу над сильнейшим из игроков-людей.
Итак, у AlphaZero была информация о том, как ходят фигуры, и обучающий нейросетевой алгоритм с подкреплением. Когда турнир начался, AlphaZero стал играть сам с собой, обрабатывая до 800 тыс. позиций в секунду.
По человеческим меркам, AlphaZero провел за игрой в шахматы около 1400 лет. И достиг уровня абсолютного чемпиона мира по шахматам. По крайней мере, среди компьютеров.
После этого AlphaZero потратил восемь часов и превзошел AlphaGo в го. А потом ещё ща два часа разгромил программу Elmo, которая раньше считалась неоспоримым чемпионом по игре в сёги (японскую стратегическую настольную игру).
Написание музыки
В августе искусственный интеллект Amper сочинил, спродюсировал и исполнил музыку для альбома «I AM AI» (англ. я — искусственный интеллект) совместно с певицей Тэрин Саузерн.
Amper разработала команда профессиональных музыкантов и технологических экспертов. Они отмечают, что ИИ призван помочь людям продвинуть вперед творческий процесс.
Amper самостоятельно создала аккордовые структуры и инструментал в треке «Break Free». Люди лишь незначительно поправили стиль и общую ритмику.
Ещё один пример – музыкальный альбом в духе «Гражданской обороны», тексты для которого писал ИИ. Эксперимент провели сотрудники «Яндекса» Иван Ямщиков и Алексей Тихонов. Альбом 404 группы «Нейронная оборона» выложили в сеть. Получилось в духе Летова: Затем программисты пошли дальше и заставили ИИ писать стихи в духе Курта Кобейна. Для четырёх лучших текстов музыкант Роб Кэррол написал музыку, и треки объединили в альбом Neurona. На одну песню даже сняли клип – правда, уже без участия ИИ:
Медицина
Искусственный интеллект широко используется для поддержки принятия решений в медицине. Но как вам такой пример: китайский интеллектуальный робот Xiaoyi («Сяо И») впервые сдал экзамен на врача и получил лицензию на врачебную деятельность.
Разработка компании iFlytek находит и анализирует информацию о пациенте. К работе он приступит в марте. Предполагается, что Xiaoyi будет ассистировать врачам, чтобы повысить качество их работы. Робот сосредоточится на противоопухолевой терапии, а также на обучении врачей общей практики, которых в сельских районах Китая очень мало.
Ещё одно интересное решение – Wave Clinical Platform от ExcelMedical. Система следит за жизненными показателями пациента и предупреждает врачей за шесть часов до его возможной скоропостижной смерти. Платформа системно анализирует информацию и рассчитывает риски неблагоприятного исхода.
В рамках тестов в медицинском центре Питтсбургского университета система предотвратила шесть смертей тяжелобольных пациентов. Человек на такое просто не способен, потому что не придаст значение небольшому изменению показателей и не найдёт связь между ними.
Система DeepFaceLIFT, разработанная учёными Массачусетского технологического института, способна распознавать уровень боли по микровыражениям лица. Она решает очень сложную задачу, так как каждый человек выражает боль по-разному. DeepFaceLIFT позволит понять, кому действительно нужны обезболивающие, а кто страдает зависимостью от наркотических препаратов.
Система для анализа речи и поиска признаков психических заболеваний – разработка IBM. Специалисты отдела по вычислительной психиатрии и нейровизуализации создали интеллектуальную систему, которая может предсказать развитие психоза по речи пациента.
Пациентам предлагалось просто рассказать о себе. Система могла определить, что речь человека стала беднее, он перескакивает с одной идеи на другую и т.п. Это характерные признаки психоза.
После улучшения системы пациентам предложили пересказать ей только что прочитанную историю. На этих примерах искусственный интеллект в 83% случаев ставил правильный диагноз. Это объективно выше, чем у врачей, даже с солидным опытом.
Суть и принципы работы ИИ
Термин «искусственный интеллект» (ИИ) впервые прозвучал в 1956 году на конференции в Дартмуте, но только в последнее десятилетие он стал активно развиваться. Сейчас мы видим лишь первые значимые проблески его потенциала и применения. Основной задачей ИИ является выполнение задач, изначально предназначенных для человеческого познания: распознавание паттернов, прогнозирование и принятие сложных решений.
Алгоритмы могут воспринимать и интерпретировать окружающий нас мир, а некоторые полагают, что скоро они будут способны ощущать эмоции, сострадать и творить. Хотя мечта об ИИ полностью идентичному человеческому разуму, все еще очень далека.
Переломным моментом развития компьютерных технологий стало «глубоко обучение» (deep learning) – архитектура, основанная на принципах функционирования человеческого мозга, нейронов и связей между ними. Такие системы могут состоять из тысяч слоев, миллиардов параметров и анализировать огромное количество переменных данных. Однако в отличие от человеческого мозга, их развитие основано на математическом выборе и распознавании шаблонов из массивов данных.
Прорыву способствовал «взрыв данных», поступающих из Интернета и связанных с деятельностью, намерениях, предпочтениях людей. В то время как человеческий разум сосредотачивается на наиболее очевидных связях между входящей информацией и результатами, алгоритмы машинного обучения, проанализировав море данных (big data), могут выявить настолько тонкие корреляции, что мы не сможем даже описать их логически.
Объединение сотен или тысяч слоев, обеспечивает преимущество в сравнении с самыми опытными экспертами. Алгоритмы ИИ сейчас превосходят людей в распознавании речи и лиц, различных играх, диагностике некоторых видов рака на основе результатов МРТ.
Однако для анализа им требуется масса данных для обучения и огромные вычислительные мощности для обработки всего этого. Современные ИИ также функционирует только в конкретных областях и не способны обобщать или использовать здравый смысл. Например:
- AlphaGo, который побеждает мировых чемпионов в древней игре Go, не играет в шахматы;
- алгоритмы, обученные определению андеррайтинга займов, не могут распределять активы.
Несмотря на существующие ограничения, под влиянием компьютерных технологий, искусственный интеллект перешел от эпохи открытий в эпоху реализации. В данный момент центр тяжести уже переместился из исследовательских лабораторий в реальные приложения. Компании и правительства активно изучают эту область, ищут способы применения современных возможностей ИИ в своей деятельности, чтобы выжать максимум производительности из этой инновационной технологии. Потенциал искусственного интеллекта увеличивает и то, что его можно применять практически в любой сфере.
Что Каспаров думает о поражении спустя 23 года
Шахматист говорит, что не сразу смирился с исходом той игры, но в результате понял, что важно одолевать отрицательный опыт. «В результате матч стал не проклятием, а благословением, потому что я был частью чего-то очень важного», — вспоминает Каспаров
«1997 год был неприятным опытом, но он помог мне понять будущее сотрудничества человека с машиной»
«В результате матч стал не проклятием, а благословением, потому что я был частью чего-то очень важного», — вспоминает Каспаров. «1997 год был неприятным опытом, но он помог мне понять будущее сотрудничества человека с машиной»
Он отмечает, что стал первым интеллектуальным работником, которому угрожало распространение машин. Этот факт помогает шахматисту рассказать общественности, что нужно выяснить, как люди могут использовать повсеместное распространение мощного ИИ в своих интересах. Он говорит, что из-за истории с Deep Blue никто примет его за ярого фаната компьютеризации.
О роботах и рынке труда
Бытует мнение, что роботы вскоре отнимут у людей рабочие места создав тем самым условия для глобального роста безработицы и социального кризиса. Однако, по словам Каспарова, эти опасения безосновательны, поскольку на рынке труда произойдет качественный сдвиг. Появятся новые специальности и новые потребности. Это естественный эволюционный процесс. Прогресс всегда ведет к переменам и человек всегда к ним приспосабливается и находит возможности применить свою креативность и изобретательность.
По данным исследования MacKenzie, только 4% рабочих мест на американском рынке труда требует от человека умеренного творческого подхода. А остальные 96% — это бездумный труд.
Возможно, люди будут отвечать за 2-3% от всего процесса принятия решений. Но это будут ключевые решения. Человек должен знать, как использовать ту или иную машину для достижения конкретных целей. А состязаться с компьютером в объеме знаний — это бесполезное занятие.
Почему за людьми-шахматистами все еще следят после победы ИИ
Мы все еще заинтересованы в людях и человеческой конкуренции несмотря на то, что машины развиваются быстрее.
То, что существуют компьютеры, которые могут победить человека в игре, создает чувство тревоги, но и расширяет интерес к шахматам. 30 лет назад на турнире двух шахматистов никто не осмелился критиковать их даже при совершении ошибки.
Сейчас даже те, кто не знает тонкостей шахмат, могут посмотреть на специальный экран и увидеть, что происходит на доске, анализ партии, благодаря ИИ. Машины выступили переводчиком, и шахматы для многих людей перестали быть непонятным языком. Больше людей пришло в игру.
О том, почему не надо бояться искусственного интеллекта
Гарри Каспаров — уникальная личность, гениальный шахматист и просто очень умный человек и интересный собеседник. Его знаменитая шахматная партия с суперкомпьютером IBM Deep Blue, состоявшаяся в 1997 году, закончилась поражением человека перед машиной стала отправной точкой для множества страшных историй о порабощении человека роботами.
Однако сам Каспаров не верит в теории о восстании машин, считая, что развитие технологий — это естественный и непрерывный процесс, который нужно и можно использовать на благо человека.
Sponsored
Sponsored
По его словам, в 1990-е, в те годы, когда состоялась его знаменитая шахматная партия, люди относились к технологиям иначе. Они черпали в них вдохновение, бросали себе вызов. Общий настрой был другим.
Сейчас ко всему новому, всем, что нарушает статус-кво, относятся в лучшем случае с подозрением, отмечает Каспаров. многие испытывают замешательство и страх с примесью любопытства. Мы постепенно переходим на новый уровень развития, где взаимодействие с машинами становится решающим фактором, и людей это пугает. Они не знают, как к этому относится, как приспособиться к новым реалиям.
Проблема определения разума
Фото: slavssoft.ru
Мы не знаем. Даже эксперты и люди на передовой компьютерных наук все еще сомневаются насчет того, что именно происходит внутри мозга человека.
Мы вполне отдаем себе отчет, что искусственный разум по-прежнему является инструментом. Будет ли нам удобно сосуществовать с машинами, которые могут выполнять нашу работу лучше и быть при этом физически сильнее? Каспаров отмечает, что люди постоянно стремились облегчить свой труд путем создания машин и механизмов.
Шахматист отмечает, что скептически относится к AGI (тип ИИ, способный освоить любую задачу, которую посильно решить или выполнить человеку). Каспаров сомневается, что машине удастся переиграть человека вне закрытых систем. Машины, по его мнению, могут превзойти человека только в закрытой системе, поскольку ее создает сам человек.
«Дэвид Сильвер (создатель AlphaZero — алгоритма-победителя в мире шахмат) не ответил на мой вопрос о том, могут ли машины устанавливать свои собственные цели», — рассказывает Каспаров. «Это определенный пробел в его определении интеллекта. Люди способны ставить цели и искать пути их достижения. Машина может делать только второе».
Распознавание лиц
В iPhone X распознавание лиц разработано с использованием нейросетей – варианта системы искусственного интеллекта. Нейросетевые алгоритмы реализованы на уровне процессора A11 Bionic, за счёт чего он эффективно работает с технологиями машинного обучения.
Нейросети выполняют до 60 млрд операций в секунду. Этого достаточно, чтобы проанализировать до 40 тыс. ключевых точек на лице и обеспечить исключительно точную идентификацию владельца за доли секунды.
Даже если вы отрастите бороду или наденете очки, iPhone X вас узнает. Он попросту не учитывает волосяной покров и аксессуары, а анализирует область от виска до виска и от каждого виска до углубления под нижней губой.
Об этике использования ИИ
История учит нас, что прогресс невозможно спрятать или подавить. Поэтому если ограничить новейшие технологии в наблюдении и производстве оружия в каком-либо регионе, то это даст неоспоримое преимущество его конкурентам.
«Люди все еще имеют монополию на зло. Проблема не в самом искусственном интеллекте, а в том, что его и другие технологии используют для нанесения ущерба», — Каспаров сравнивает ИИ с зеркалом, которое усиливает как положительное, так и отрицательное. «ИИ — это уникальный инструмент. Он расширяет наше сознание, но это все еще инструмент. У человечества достаточно проблем, которые можно сильно усугубить неправильным его использованием.
Имитация человека
Роботы, наделённые искусственным интеллектом, уже могут имитировать человеческую мимику. К примеру, Facebook AI lab разработала интеллектуального анимированного бота и обучила его на сотнях записей видеозвонков Skype.
Алгоритм отслеживал 68 ключевых точек на человеческом лице. Он понял, как люди кивают, моргают и воспроизводят другие движения при общении с собеседниками. Затем бот смог в режиме реального времени реагировать на информацию, которую ему сообщал собеседник, или его мимику.
Ещё один важный момент – наделение ИИ моралью. Чтобы обучить систему человеческим моральным нормам, исследователи из Массачусетского технологического института создали Moral Machine.
Сайт предлагал людям принять решение в непростых ситуациях: к примеру, ставил их на место водителя, который мог сбить либо трёх взрослых, либо двоих детей. Таким образом, Moral Machine обучили принимать непростые решения, которые нарушают закон робототехники о том, что робот не может принести вред человеку.
К чему приведёт имитация роботами с ИИ людей? Футуристы считают, что однажды они станут полноправными членами общества. К примеру, робот София гонконгской компании Hanson Robotics уже получила гражданство в Саудовской Аравии (при этом у обычных женщин в стране такого права нет!). Когда колумнист «Нью-Йорк Таймс» Эндрю Росс спросил у Софии, обладают ли роботы разумом и самосознанием, та ответила вопросом на вопрос:
Кроме того, София заявила:
А ранее она признавалась, что ненавидит человечество и даже соглашалась уничтожить людей…
О рабочих местах
Технологии действительно уничтожают рабочие места, но потом создают новые
Каспаров призывает обратить внимание на статистику, согласно которой творческая составляющая деятельности человека необходима только на 4% рабочих мест в США. Остальные 96% уже «мертвы», но не знают этого
Живых людей пытались научить работать как вычислительные машины. Вполне логично, что сегодня некоторые типы работ и специальности остаются в прошлом. «Мы должны искать возможности для создания рабочих мест, которые подчеркнут наши сильные стороны», — считает Каспаров.
Это все еще задача человека, понимать, какую именно роль должна выполнять та или иная машина, чтобы извлечь из нее максимальную выгоду. В конце концов это всегда комбинация работы человеческого мозга и ИИ.
Каспаров приводит пример с ружьем, которое способно поразить цель на большом расстоянии (1 миля). При таких возможностях даже самое мельчайшее отклонение оружия способно дать промах на 10 метров от цели. Из-за того, что оружие весьма серьезное, даже самое маленькое изменение способно сбить прицел. По сути этот процесс иллюстрирует опасносность взаимодействия человека с машинами, которые нужно контролировать и «направлять».
