Когда именно компьютеры перейдут в Ape-Shi * и возьмут?

В культовом телесериале 1990-х годов Mystery Science Theatre 3000 мы относимся к двум инопланетянам и чувакам, которые пробираются сквозь ужасные старые B-фильмы, такие как Project Moonbase . Например, в своем эпизоде, смотрящем фильм 1963 года «Люди слизняков: из недр Земли», главный герой называет оператора на таксофоне в заброшенном аэропорту Лос-Анджелеса, а один из роботов импровизирует: «Привет. Это человеческая раса. Мы не сейчас. Пожалуйста, говорите ясно после звука бомбы.

Mystery Science Theatre 3000 теперь ушел, но если вам нравится высмеивать апокалиптические истории научной фантастики, вы получите больше, чем свое заполнение, наблюдая за реакциями и прессами вокруг футуристических прокламаций Рэя Курцвейла в Университете Сингулярности Земли. Наиболее известным прокламацией Курцвейла является то, что мы быстро приближаемся к «сингулярности», когда искусственный интеллект превосходит человеческий разум (или некоторое время вскоре после этого). После звука этой бомбы искусственный интеллект создаст все более совершенный искусственный интеллект, и всевозможные подгонки попадут в шанн.

Нет недостатка в скептицизме в отношении сингулярности, поэтому, чтобы поставить свою землю и рискнуть стать первой человеческой батареей, установленной после сингулярности, я скажу вам, почему нет особой точки. Не к 2028 году, не к 2045 году, не в любое время в ближайшие 500 лет – далеко после того, как я буду использоваться как батарея или даже компост для наших пришедших мастеров.

Что не так с мыслью о неизбежной особенности? Не растут ли вычислительные возможности?

Да. И мы действительно сможем создать постоянно растущий искусственный интеллект.

Проблема в том, какой еще интеллектуальный ИИ мы должны построить?

В эволюции мы часто попадаем в ловушку воображения линейной лестницы животных – от бактерий до человека – когда это на самом деле дерево. И в ИИ мы можем попасть в подобную ловушку. Но нет линейной цепи все более и более интеллектуальных ИИ. Вместо этого существует очень сложная и разветвляющаяся сеть возможных ИИ. Для любого ИИ есть множество других, которые не более или менее умны – они просто по-разному разумны. И, таким образом, по мере того, как ИИ продвигается, он может делать это множеством способов, и новые интеллекты часто будут строго несравнимы друг с другом. … и строго несравнимо с человеческим интеллектом. Не умнее людей, и не меньше. Просто чужой.

Иногда эти инопланетные искусственные интеллекты могут быть аккуратными, но по большей части мы, люди, не будем кричать о них. Мы биологически неспособны (или, по крайней мере, инвалидам) ценить чужой интеллект, и были построены, мы будем улыбаться вежливо и продолжать игнорировать его. И хотя большое наше пренебрежение к этим чуждым ИИ будет связано с нашим предрассудком и земным провинциализмом, есть веские основания ожидать, что чужой ИИ, вероятно, будет бесполезным. Мы заинтересованы в ИИ, который делает то, что мы делаем, но делает это намного лучше. Чужой AI будет делать что-то удивительное, но не то, что мы делаем.

Вот почему большинство исследователей ИИ стремятся к примерно таким «млекопитающим» искусственным интеллектам, ИИ, которые достаточно похожи на человеческий интеллект, что мы можем провести сравнение. «Ах, этот ИИ явно менее умен, чем человек, но более умный, чем собака. И этот ИИ настолько умен, что мне неудобно позволить ему дать мне бразильца ». Исследователи AI стремятся построить не чуждые чудовищные разумы, но земные умения маммалеска, с когнитивными и перцептивными механизмами, которые мы можем оценить. Супер-умный ИИ не будет составлять сингулярность, если он не супер-умный и грубо млекопитающий.

Но для создания искусственного интеллекта, подобного млекопитающему, мы должны понимать мозг млекопитающих, в том числе и наш. В частности, мы должны реконструировать мозг – то есть определить, что он делает , его функции . Без первой обратной инженерии исследователи ИИ находятся в должности инженера, который попросил построить устройство, но не дал никакой информации о том, что он должен делать.

По его мнению, обратная инженерия является неотъемлемой частью ближайшего будущего Курцвейла: мозг будет реконструирован за пару десятилетий. Как сам нейробиологический реверс-инженер, меня только поощряют, когда я нахожу исследователей – будь то на базе луны или в недрах Земли – серьезно принимая адаптивный дизайн мозга, что часто игнорируется или активно не одобряется внутри нейронауки. Своеобразное признание обратного развития в мозге кошки IBM и европейских проектах Blue Brain встречается аналогично.

И есть ваша проблема в течение нескольких десятилетий для сингулярности! Обратное-инженерное что-то как астрономически сложное, так как мозг – это, как ни странно, астрономически сложно – возможно, самая сложная задача во Вселенной. Прогресс в понимании функций, выполняемых мозгом, – это не то, что происходит просто с большей вычислительной властью. Фактически, определение функции, выполняемой какой-либо машиной (будь то мозг или компьютерная программа), вообще не является вычислимым вообще (это один из тех результатов неразрешимости от 20-го века).

Понимание того, что требует биологический механизм , требует больше, чем просто рук на мясо. Вы должны также понимать поведение животного и экологию, в которой он развился. Биологические механизмы, разработанные путем эволюции, чтобы сделать что-то в естественных условиях, часто могут загружать множество других вещей в неприродных обстоятельствах, но только первые имеют значение для понимания того, для чего предназначены механизмы.

Понимание мозга требует понимания «природы», в которой находится животное. И поэтому прогресс в ИИ требует, чтобы кто-то сильно отличался от вашего традиционного исследователя ИИ, который погружен в алгоритмы, логику, нейронные сети и часто лингвистику. Исследователи ИИ нуждаются в таком вычислительном опыте, но им также необходимо обладать мировоззрением древних этологов, таких как Николас Тинберген и Конрад Лоренц.

Но характеристика поведения и экологии сложных животных должна выполняться по-старому – наблюдение в поле, а затем тестирование творческих гипотез о биологической функции. Нет никаких ярлыков для того, чтобы перепроектировать мозг – не будет фантастической будущей машины для заглядывания в биологические механизмы и того, для чего они нужны.

Обратное проектирование будет продвигаться вперед, и экспоненциальный рост технологий, несомненно, поможет в решении этой задачи, но это не приведет к экспоненциальному росту скорости, с которой мы реверсируем наш мозг. 2025 и 2045 – и я подозреваю, что 3000 – проскользнут, и большинство наших мозгов все равно будут расплывчатыми и загадочными.

Марк Чангизи является профессором человеческого познания в 2AI и автором книги «Революция видения» (Benbella Books) и предстоящей книги «Затмевается»: как язык и музыка подражали природе и превращали обезьяну в человека (книги Бенбеллы).