СОВСЕМ МОЗГОВ НЕТ. «Должны ли мы рисковать потерей контроля над нашей цивилизацией?»

Страхов человечеству добавляется, и, как обычно, создаёт их оно само. Атомная бомба, глобальное потепление, рукотворные вирусы, теперь вот искусственный интеллект. Причём, в отличие от той же атомной бомбы, этот самый интеллект не лежит в загашнике, но действует и развивается, у нас на глазах и с нашей помощью.

Совсем недавно, несмотря на все околопридыхания, он больше был похож на салтыков-щедринский органчик, чем на зачаток Скайнета. Задавать такому серьезные вопросы – все равно что спрашивать у ясеня. Пресловутый ChatGPT, конечно, умел другой раз выдать отличную бессмыслицу, как начитанный школьник под веществами, но в плане осмысленных заявлений оказывался совсем плох.

Что это все значит, думал я, – младенческое гугление будущего супервзрослого или просто очередной разрекламированный пшик? Покажет время. Сложатся ли буквы в слова или рукотворный разум так и продолжит гуглить цифровым переростком?

Больше всего беспокоило, что он, искусственный, самообучается. Страшно подумать, чему несчастный робот может научиться на всех идиотских вопросах, которые ему задают. На одних моих, многочисленных, уже вряд ли чему хорошему, а ведь таких пытливых, как я, вагон и маленькая тележка.

Да, не очень-то верится в искусственный интеллект в эпоху, когда и с естественным все плохо. По запросу «маркиз де Сад» он на полном серьезе выдавал картинку с грядкой и тяпкой, хваленый ChatGPT.

Однако учение и труд все перетрут. Интеллект, очевидно, эволюционировал и усложнился. Наблатыкался, как говорили в таких случаях у нас во дворе. Нерадивые школьники пишут с роботиной помощью рефераты, а нерадивые журналисты – статьи, и выходит довольно гладко.

Сейчас, например, я задал боту вопрос о различиях во вкладе Луизы Брукс и Глории Свенсон (слева направо) в историю немого кино и получил вполне развернутый и адекватный, хотя и банальный, конечно, ответ.

Была упомянута даже модная прическа красавицы Брукс, стрижка «боб» или «датч бой», ставшая культовой после Луизиных фильмов. Даже о таком аспекте робот не забыл. Он теперь не просто продвинутый бредогенератор Фидо. Он уже не спутает де Сада с тяпкой.

А то, что рассуждение на тему оказалось банальным, большинство и не заметит. Для того, чтобы более или менее ориентироваться в повседневности, банальностей и довольно, простых и очевидных истин. Попробуй еще усвой все банальности, которыми наполнена жизнь.

Одна из них – зафиксированная некогда желчной тетенькой Ханной Арендт банальность зла. Открытое письмо с призывом приостановить минимум на полгода обучение систем искусственного интеллекта подписали такие авторитеты в области айти, как хозяин Starlink Илон Маск и соучредитель Apple Стив Возняк.

«Продвинутый искусственный интеллект может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами, – говорится в письме. –   сожалению, такого уровня планирования и управления сегодня не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто – даже их создатели – не может понять, прогнозировать или надежно контролировать».

Далее подписанты задаются вопросами: «Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе руководящие? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, утилизировать и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий».

Это непосредственно неизбранные лидеры технологий и замечают, заметьте. Дело серьезно, если заставляет даже их, коммерчески успешных, забывать о собственных выгодах.

Со стороны экзистенциальной оппозиции искусственный интеллект атакует Ноам Хомский (на фото), знаменитый бунтарь и признанный лингвист. В статье, написанной им совместно с двумя коллегами (один, Ян Робертс, тоже лингвист, другой, Джеффри Ватумалл, – специалист по искусственному интеллекту, причем практик, а не университетский книжный червь), банальность зла снова упоминается. Для искусственного интеллекта, по мнению авторов, она выражается в плагиате, уклончивости и интеллектуальной недостаточности.

Именно этими характеристиками описали авторы ответ ChatGPT на вопрос, насколько этично колонизировать Марс, преобразуя далекую планету к удовлетворению потребностей homo sapiens. В ответ робот обобщил стандартные газетные аргументы в литературе, увиливая от какого-либо определенного ответа. Аргументировал это искусственный интеллект отсутствием у себя интеллекта (sic!), а потом просто предложил послушать, что скажет по этому поводу начальство.

Справедливо обозвав бота неуклюжим статистическим механизмом, авторы описывают принцип его действия: обрабатывается огромный массив данных и на основе этой обработки генерируется наиболее вероятный ответ на заданный вопрос. Человеческий же мозг, напротив, «оперирует с небольшими объемами информации – он стремится не выводить грубые корреляции между точками данных, а создавать объяснения».

Вот почему искусственный и естественный интеллект – изначально разные, в сущности, враждебные друг другу явления.

Человеческий разум, чем более он могуч, тем более одинок. «Я в мир пришел, чтобы не соглашаться», – говаривал в свое время Максим Горький. Сила разума – в его убежденности, в основе которой лежит великая моральная истина человеческого призвания. «А все-таки она вертится», – топнул ногой Галилей уже после вынужденного публичного отречения от мысли о том, что Земля вращается вокруг Солнца.

Понимаете, да, все кругом убеждены в обратном, Святая Инквизиция (серьезный орган) грозит пальцем, а этот дед, уже сломленный, все равно упрямо топает ногой.

Роботу же в конце концов безразлично, что там вокруг чего вертится, он работает с общественным мнением, выделяя и оформляя общепризнанное и общераспространенное. «Он торгует вероятностями, которые меняются со временем», – презрительно замечает Хомский сотоварищи. Вот почему предсказаниям, которые он делает, грош цена.

Хотя сам проект, конечно, далеко не грошовый. Взят очередной технический горизонт, работа с мыслью вышла на новый уровень. Но если и это достижение человечество обратит против себя самого, как случалось с предыдущими достижениями, вряд ли кто-нибудь удивится. Обыкновенная уже история.

Я таки повесил его, густопсовый и кондовый ChatGPT, довел до ступора своими неделикатными и глупыми вопросами. А вернее всего, просто попал на сбой. Так или иначе, над ответом на этот вопрос робот думает уже третью неделю.

close

Подписка на новости

Подпишитесь, чтобы получать эксклюзивные материалы и быть в курсе последних событий!

Мы не спамим! Прочтите нашу политику конфиденциальности, чтобы узнать больше.