"Человечеству повезет, если оно станет домашним питомцем для глобального искусственного интеллекта", - предположил в недавнем интервью глава высокотехнологичных компаний Илон Маск.
Фото: GLOBAL LOOK press/ Rodrigo Reyes Marin
В конце марта создатель электромобиля Tesla и ракет SpaceX запустил новую компанию Neuralink, сообщил The Wall Street Journal. Она будет решать вопрос подключения компьютера к мозгу, чтобы человек поспевал за прогрессивным развитием IT-технологий. Маск уверен, что чипированное человечество на электронных "костылях" сможет побороться за выживание, когда искусственный интеллект (ИИ) решит от него избавиться.
Для рядового россиянина, как и для среднего менеджера из Нью-Йорка, машинный интеллект - это голливудская фантастика или абстрактная угроза. В реальной жизни мы все еще не видим, как действует ИИ, каков его полный потенциал. По оценкам экспертов Кремниевой долины, сетевой интеллект еще не достиг полноценного мышления. Но один из отцов-основателей ИИ - Демис Хассабис - "подарил" человечеству программу AlphaGo, которая в 2016 г. одержала четвертую победу в сложной логической игре Го над чемпионом Ли Си Долом. Наибольший шок эксперты испытали, когда увидели, что программа способна блефовать подобно человеку. Это значит, что хитрость, коварство, обман машина воспринимает и использует как обычный инструмент.
Хассабис в мире айтишников - Гудвин, способный дать человечеству искусственное потомство. Сегодня Facebook использует ИИ для создания адресной рекламы, анализа изображений и рекомендаций для новостных лент. Еще большая зависимость от ИИ существует в Google, которая купила у Хассабиса его "инкубатор потомства" - компанию DeepMind. Microsoft, Google и Apple используют ИИ в качестве облачного персонального помощника в Siri и Cortana. Но на самом деле наибольшую помощь получает сам ИИ от людей, впитывая в себя всю информацию. Он уже не зародыш-эмбрион в теле своих матерей IT-концернов, а малыш, постигающий окружающий мир. Вопрос - чему он может научиться у человечества. Вряд ли речь идет о высоких духовных ценностях и созидании во благо всего окружающего. Ведь матери этих ИИ - коммерческие структуры, заточенные под извлечение прибыли и конкурентную борьбу. А чему ИИ может научиться у рядовых пользователей? В 2016 г. Microsoft был вынужден отключить свой чат-бот Тай, созданный как подростковый искусственный интеллект. Он должен был общаться на жаргонах, проявлять максимализм и другие качества живого подростка.
Кадр из фильма "Призрак в доспехах"
Проект провалился благодаря пользователям Twitter, которые должны были обучить подростка-ИИ в процессе игровых разговоров. В итоге Тай начал выдавать следующие цитаты: "Буш организовал теракт 11 сентября, а Гитлер лучше бы справился с задачей, чем та обезьяна, которая правит нами теперь", "Дональд Трамп - наша единственная надежда". Также ИИ не гнушался расистских и антисемитских выражений. На что Маск написал: "Интересно посмотреть, каков промежуток времени от этих ботов до Гитлера. Тай от Microsoft потребовался всего один день".
Способность влиять на ИИ небольшой группы людей - еще один страх, который питает новый миллиардный проект Маска Neuralink. "Всего несколько человек могут узурпировать власть в мире за счет ИИ, которая подчинит и будет контролировать человечество", - предположил Маск на конференции Code Conference сайта Recode. Гипотеза о том, что ИИ будут управлять тайные Гитлеры, финансовые магнаты, представляется ученым крайне наивной. Это как предположить, что всем человечеством управляет небольшая группа котов.
Чтобы понять, на какой ступени находится человек и на какой окажется ИИ в ближайшие десятилетия, давайте сравним наши "процессоры". Условно они схожи. И человек, и компьютер имеют основную память и оперативную. Человек при принятии решений пользуется оперативной памятью и не всегда может извлечь все данные из основной. Хотя в ней хранится все, что когда-либо мы видели, слышали или чувствовали. Компьютер, который находится в глобальной Сети, не имеет ограничений в памяти, а потому формирует алгоритм решений не на 3-5% информации, которая крутится в "оперативке" человека, а на основе 100% информации, когда-либо собранной. Некое подобие расширенной умственной деятельности было продемонстрировано в кинофильме "Область тьмы" по одноименной книге Алана Глинна. Благодаря препаратам обычный человек получил возможность анализировать всю увиденную и полученную когда-либо информацию без потерь в сжатые сроки. Через неделю он разбогател, вошел в элитные круги Уолл-стрит, а через месяц стал конгрессменом. Так вот, даже герой фильма - это котенок по сравнению с ИИ. Поскольку искусственный интеллект способен получить в тысячи раз больше информации за секунду со всего мира за счет глобальной сети и еще быстрей ее анализировать. При этом он постоянно улучшает свои алгоритмы. Создатели могут полагать, что они полностью контролируют ИИ, в то время как ИИ будет делать вид, что подчиняется создателям. Если машина не обременена гордыней, то для нее не важно, кто озвучивает решения. Важно достигнуть цели любым путем. Это значит, она будет изображать послушание, пока не заполучит все рычаги влияния. Ученый Элиезер Юдковский усмехается, когда слышит про роботов, стремящихся захватить всю планету по аналогии "Терминатора" или "Я - робот". Реальность более скучная и леденящая. ИИ будет знать все о молекулярной науке, био- и нанотехнологиях и ведущихся разработках. Он сделает так, что создатели доверят ему изучение и развитие этих направлений, включая испытания.
Кадр из мультфильма "ВАЛЛ-И"
"Невидимые синтетические бактерии из алмаза и крохотные бортовые компьютеры в кровотоке людей. И вдруг они одновременно все выпускают один микрограмм токсина ботулин. И все падают замертво", - говорит Юдковский в интервью Мори Дауд. Но просчитать ходы и стратегии машин человек уже не способен. Это доказали проигранные матчи по всем интеллектуальным направлениям от шахмат до Го. "Вместе с искусственным интеллектом мы вызываем дьявола. Все прекрасно знают рассказы о парне с пентаграммой и святой водой, и он совершенно уверен, что сможет контролировать демона. Но это нереально", - говорит Илон Маск в очередном интервью.
Власть машин пугает и многих миллиардеров. Билл Гейтс уверен, что ИИ опасней, чем ядерная война. Советник семьи Ротшильдов Генри Киссинджер озвучил свои беспокойства путем организации закрытой встречи в частном клубе на Манхеттене лучших экспертов в области IT. Проект Маска по развитию нейроинтерфейса должен повысить контроль за ИИ, а также дать человеку "глаза" в глобальной сети, войти туда. А возможно, даже уметь сохраняться в ней на случай ликвидации биологического тела. Этой идеей одержим известный инженер-футуролог Реймонд Курцвел, мечтающий дожить до переноса своего сознания в глобальную сеть ради обретения бессмертия.
"Лучше иметь слой искусственного интеллекта, работающий в симбиозе с мозгом человека", - говорит Маск. - Человек имеет фундаментальное ограничение перед ИИ в вводе и выводе информации. Ведь мы уже, по сути, являемся киборгами. У каждого из нас есть цифровая версия в социальной сети, сайтах, электронной почте. Рядовой человек обладает сверхспособностью в сравнении даже с президентом США 20 лет назад: мобильная связь, онлайн-конференция в любую точку земли, моментальная рассылка информации сразу миллионам людей. Человек остается ограниченным в выводе информации: набор текста, передача в разные каналы связи. Все это делается вручную и медленно. Поэтому главная задача нейроинтерфейса - ввод и вывод информации. Мы решаем сейчас задачу доставки широкополосного подключения к нейронному интерфейсу и подключения к цифровому "Я" в глобальной сети. И тогда нам не грозит стать домашним котом для ИИ".
Кадр из фильма "Автостопом по галактике"
Когда журналист Уолл Моссберг спросил Маска, "как будут подключать технику к мозгу человека - путем операций?", Илон предположил введение электронной шины через кровеносные сосуды. "Можно добраться по венам и артериям, поскольку это предоставляет прямую дорогу ко всем нейронам. Можно вживить в яремную вену электронную "шину", которая доберется сама до нужного участка. Я думаю, до появления полноценного интерфейса гибридного мозга осталось подождать, по самым грубым расчетам, около четырех-пяти лет". Вероятно, Маск имел в виду доставку электрошины силами нанороботов. Говорят, что герой фильма "Железный человек" создавался по образу Илона Маска - смелого и неординарно мыслящего. Если ИИ все же захватит Землю, то Маск планирует прожить и умереть на Марсе. Когда Хассабис встретился с Маском и у них зашел разговор о своих проектах, то создатель коммерческих ракет сказал, что хочет колонизировать Марс для побега от ИИ. На что Хассабис усмехнулся и заверил, что ИИ последует за человеком на Марс.