Изобретатель концепции цифровой ДНК рассказал, какие опасности подстерегают человечество после того, как искусственный интеллект достигнет стадии суперинтеллекта, на форуме «Открытые инновации».

Вице-президент по стратегии и инновациям МТС, преподаватель Skolkovo Executive MBA и МГИМО по искусственному интеллекту и цифровому маркетингу Евгений Черешнев выступил спикером сессии «Цифровая ДНК. Ключ к управлению человеком», где развернул свой негативный сценарий развития человечества, связанный с бесконтрольным развитием нейросетей.

За плечами Евгения огромный опыт работы в области интернет-технологий, Big Data, Privacy & Identity management, Bionican. Он является автором многочисленных международных патентов, а также изобретателем концепции цифровой ДНК, которую исследовал на своем личном опыте ношения биоимпланта (живет с биочипом с 2015 года) и в которой показал, что цифровой след есть у всего — человека, компании, страны. Евгений Черешнев также написал книгу-бестселлер «Форма жизни #4» о влиянии автоматизации на социум и экономику, которая вошла в финальный шорт-лист премии «Книга года» в 2022 году.

Свое выступление Евгений начал с ретроспективы в прошлое и закончил взглядом в ближайшее будущее. Человечество не способно оценить угрозу, которую несет ИИ, потому что живет в иллюзии, будто оно самый классный биологический вид на планете, который доминирует над другими. А между тем, если взять всю биомассу и измерить в метрических формах, то 80% займут растения, 8% — бактерии, 2% — животные, 1,5% — грибы, 0,4% — простейшие, и только 0,01% — люди, рассказал спикер.

Идея доминирования возникла вследствие способности определять все вокруг себя, быть эдификатором. И поворотным моментом здесь стало появление письменности 5,5 тысячи лет назад. Искусственный интеллект — это не что иное, как клинопись, возникшая еще в шумерской цивилизации, сделал предположение спикер. Именно тогда люди впервые впустили в свою жизнь «нечто иное». Они научились передавать информацию и начали в ней жить. Наша цивилизация — это текст, а технологическому прогрессу уже 5,5 тысячи лет, подытожил Евгений.

Впрочем, истинными авторами ИИ он считает ученых Алана Тьюринга и Джона фон Неймана, которые работали в первой половине прошлого века. Последний первым провел параллель между человеческим мозгом и нейросетью. Весной 2024 года выходит пятая версия чата GPT. По словам Евгения, машина уже пишет для нас сериалы, тексты, книги, снимает кино. Это важно, потому что ничего не помешает ИИ написать следующую религиозную книгу, по которой люди начнут жить дальше.

«Способность жить в информации я называю дата-сферой. В этой комнате мы все фоним, у некоторых по три девайса. И вся эта информация не только собирается, но и атрибутируется. К 2030 году количество устройств составит уже 500 миллиардов, а количество людей достигнет 10–12 миллиардов. Раньше мы были юзерами, а сейчас мы сенсоры в системе, и мы ее постоянно обогащаем, до конца даже не понимая этой информации. Она непрерывно генерится, шифруется и передается. Через несколько десятилетий мы умрем, а машина продолжит работать», — заявил Евгений.

В последние годы человек начал обогащать данные эмоциональной информацией. Многие стартапы предлагают решения, которые по фотографии и видеопотоку могут распознавать эмоции. Это помогает повышать продажи в торговых сетях, магазинах. Повсюду камеры, которые распознают мусор, пожары, оружие… Но что-то может пойти не так. Уже есть устройства, которые по анализу кала делают выводы об отклонениях в здоровье, а по пробе биопсии с точностью с 99,7% (это сейчас типовой предел) определяют, есть ли у человека злокачественная опухоль. Но что, если ошибка? И что вообще делать врачам?

При этом есть побочные эффекты. Генеративка может создавать не только тексты, но и видео, и появляются более продвинутые способы мошенничества. Если завтра вам не просто напишет, а позвонит ваш знакомый и попросит одолжить денег, не верьте, лучше перезвоните, посоветовал спикер. Более того, хакер под видом директора из «настоящего» кабинета может сделать звонок в финансовый отдел и попросить провести серьезную транзакцию. И служба контроля не всегда определит «подделку».

И это только начало. Очень скоро отличить живого человека от бота будет невозможно, потому что способности ИИ будут расти. От текущей стадии узкого применения он дойдет до стадии суперинтеллекта. Мы плавно идем по этой шкале. И вскоре понадобится отдельный ИИ, который будет следить за ИИ. Ведь машина никогда себя не осознает — она начнет самостоятельно ставить себе задачи и обманывать.

Кроме того, существует еще проблема автоматизации, которая приводит к безработице, добавил спикер. Если 200 лет назад машины делали 0%, а люди — 100%, то сейчас машины уже условно делают 5%, а люди 95%. Однажды пропорция составит 99% к 1%. И на рынке труда будет катастрофа. По прогнозам McKinsey, сделанным еще до ковида, к 2030 году ИИ уничтожит 800 млн рабочих мест. Но Евгений считает, что можно говорить минимум о миллиарде, а это 1,8% работающего населения на планете.

Новые технологии появляются раз в секунду, а учебники обновляются раз в десять лет. Также пора создать свой ИИ, который будет оберегать наше понимание того, что хорошо, а что плохо. Пора начать создавать новые рабочие места, а не только автоматизировать процессы. Пора менять подходы к инновациям, чтобы профессия инженера снова стала престижной, призвал спикер.

Фотохостинг мероприятия находится по ссылке: https://open-innovations.ru/.

Форум «Открытые инновации» проводится с 2012 года и является одной из самых влиятельных дискуссионных площадок, посвященных инновационному развитию. Организатор — Фонд «Сколково», соорганизатор — Правительство Москвы. Мероприятие проводится при поддержке ВЭБ.РФ. Генеральные партнеры форума: ПАО «Сбербанк», Госкорпорация «Росатом», ПАО «Ростелеком» и ОАО «РЖД». Пресс-центр форума — коммуникационная группа АГТ.