Российский программист и предприниматель Дмитрий Завалишин в отечественной ИТ-отрасли с 1985 года. Автор нескольких популярных сервисов «Яндекса», в том числе «Яндекс.Маркет». Генеральный директор холдинга DZ Systems, на базе которого работает «Лаборатория искусственного интеллекта». Дмитрий – один из ведущих специалистов России в области создания систем с использованием искусственного интеллекта, и именно к нему мы обратились с вопросами про эту высокотехнологичную часть нашей сегодняшней реальности.
– Дмитрий, искусственный интеллект действительно сопоставим с человеческим?
– Это совсем разные вещи. Внутри ИТ-индустрии термином «искусственный интеллект» стараются не пользоваться – он завлекает нас в ошибочное представление об этой технологии. Big Data, «большие данные» – уже ближе к делу. Хотя он и «умнеет» день ото дня. Сейчас лучшие человеческие умы будоражат алгоритмы на базе Big Data, которые научились генерировать объекты. Прежде считалось, что искусственный интеллект не может создавать, что он способен только анализировать. Теперь по тому или иному заданию система в состоянии породить связный осмысленный объект – рисунок, текст, программу.
Однако тут надо понимать, что это устроено относительно просто. Чтобы генерация работала, нужны две нейросети. Одну мы обучаем генерировать множество объектов. Вторую – давать им оценку. Например, первая нейросеть генерирует изображения кошечек, а вторая оценивает, красивая ли картинка, кошечка ли на ней, хорошо ли кошечка получилась. Вместе они составляют цикл обучения, при котором генерирующая сеть корректирует сама себя в попытках улучшить оценку анализирующей нейросети. Так что даже если ChatGPT взаимодействует с вами «как человек» и легко проходит тест Тьюринга на способность машины самостоятельно мыслить – это не личность, а набор статистических алгоритмов.
Более того, всю систему в целом можно воспринимать как условный генератор шума. Есть старая притча про миллион обезьян. Если они миллион лет будут печатать на машинках, рано или поздно у одной из них случайно получится «Война и мир». Так и мы имеем дело, по сути, с «обезьяной», которая случайно сгенерировала то, что нам нравится.
– Если генерация – относительно новая задача нейросети, то какие еще задачи, столь же важные, она выполняла прежде?
– Прежде всего – задачи распознавания. Вообще, с этого и началась тема искусственного интеллекта еще в 1950-х годах. Если совсем утрировать, она сводится к очень простому действию. Программному решению предлагаются разные объекты, и система должна ответить, относится ли объект к определённому классу. Собачка на картинке или кошечка, мужчина или женщина? Спектр применения процесса распознавания фантастически широк. Чтобы автономный автомобиль самостоятельно двигался, он должен выявлять для себя, что или кто находится перед ним – человек, край дороги, светофор, причём горящий определённым цветом, знак, причём ограничивающий скорость до определённого уровня. На сборке электронной аппаратуры робот из лотка берёт радиодеталь, подносит её к камере, и камера распознаёт, правильная ли у детали геометрия, той ли стороной деталь повёрнута, чтобы правильно встать на плату. Работающий в цеху робот должен распознать вошедшего человека и ограничить амплитуду действий так, чтобы его не ударить.
Следующий класс задач, который решает искусственный интеллект (а на самом деле Big Data), – это так называемые задачи предиктивной, предсказательной аналитики. Каждый день вокруг нас решается множество таких задач, вплоть до очень сложных. Сталеплавильная печь производит металл определённого сорта. Если взять историю работы этой печи за последние 10 лет и посмотреть, как от параметров на входе (температура печи, состав сырья и т.д.) менялось качество готовой продукции, можно вывести закономерность, что и как правильно подавать в печь, чтобы на выходе получался идеальный металл. Генерируется система, которая вбирает в себя опыт ручного управления неким сложным объектом и заменяет человека за пультом управления этим объектом.
Такие задачи решались ещё в советское время. Просто сегодня модели стали сложнее, они учитывают больше параметров.
– Раз любую нейросеть надо сперва обучить, от чего зависит успех этого обучения?
– От наличия достаточно большого объёма качественных данных. Например, существует множество вторичных признаков, которые говорят, что деталь самолёта, или теплохода, или любого другого дорогостоящего объекта скоро сломается. Задача предсказывать аварии на крупных транспортных средствах давно осознана человеком, данные собирались на протяжении десятилетий, и если загрузить их в Big Data – система научится предсказывать поломки с очень высокой вероятностью. Но предсказать, допустим, поломку лифта с такой же точностью для Big Data нереально – у лифтов нет такой богатой зафиксированной истории поломок.
– Всегда ли человеку понятно, что происходит внутри нейросети?
– Никогда непонятно. Генераторы не только не могут объяснить, как они породили тот или иной результат, но и принципиально устроены так, что разобраться в этом почти невозможно. Хотя разработчики нейронных сетей очень много работают над тем, чтобы хоть немного заглянуть в «мозги» искусственного интеллекта.
Причём качество объектов, созданных искусственным интеллектом, критично зависит от той самой оценивающей функции, а чем она руководствуется – тоже можно только предполагать, но нельзя знать наверняка. Приведу красивый классический пример. На станции метро задумали сделать систему автоматизированного управления вентиляцией. Разместили видеокамеру с видом на платформу. Нейронную сеть научили, что когда народа на платформе мало, вентиляция должна быть включена на 20 процентов, средне – на 50, столпотворение – на полную мощность. Всё прошло, как казалось, очень успешно. Но однажды начался очень сильный дождь, на станцию набежало много людей в неурочное время, а нейросеть не сработала. Стали разбираться, и выяснилась смешная вещь. В поле зрения видеокамеры попадали висящие на стене станции метро часы. Они – контрастный и предсказуемый объект – оказались нейросети гораздо более интересны для обучения, чем какие-то непостоянные, всегда разные люди. Нейросеть училась реагировать не на людей, а на часы, и изначально выявить это было невозможно. Таких примеров достаточно много.
– Если так много непонятного, человечеству точно не грозит «восстание машин»?
– Это однозначно не про искусственный интеллект. Естественно, что некоторые люди, глядя на его развитие, испытывают определённый страх. Но фантастические истории, что компьютеры захватят мир и нас подвинут, очень далеки от реальности. На худой конец, компьютер можно выключить – как показывает нам американский кинематограф, на любую машину найдётся свой Чак Норрис.
Но есть другая перспектива, куда более реальная и гораздо менее приятная. Сегодня глубина автоматизации с использованием искусственного интеллекта очень велика. И то, что в рамках этой автоматизации запрограммировано, сделать легко, дёшево и приятно. А то, что не запрограммировано – уже сегодня требует больших усилий. Если вы позвоните в службу поддержки, с вами будет разговаривать робот.
Всем понятный пример – система выявления нарушений правил дорожного движения с помощью камер. Робот быстро и с большим удовольствием выписывает штрафы. А вот если вы хотите оспорить такой штраф, вам потребуется ручной труд и очень много времени. Современные ИТ позволяют очень эффективно автоматизировать рутинные бизнес-процессы, но всегда будут проблемы, выходящие за рамки информационной системы. Их всё равно надо будет решать людям.
– Излишнее доверие человека к искусственному интеллекту – это не есть хорошо?
– Да, как и излишнее недоверие. Надо разумно использовать этот инструмент. Формально все отлично знают, что не компьютер присылает нам штраф, он только советует сотруднику ГИБДД посмотреть на данные с камер и принять решение. Но человек быстро привыкает доверять машине и перестаёт проверять. Похожая проблема в медицине. Любая нейросеть, включая ту, которая в человеческой голове, допускает ошибки. Доктор-рентгенограф, скажем, может как ошибочно поставить диагноз, так и не заметить болезнь. Нейросети научились отлично работать с рентгеновскими снимками, но они тоже могут ошибиться и в плюс, и в минус. Доктору, которому нейросеть помогает в диагностике, нельзя терять бдительности: даже если тысячу раз нейросеть была права, на тысячу первый она может ошибиться.
Совсем недавно существовала обратная проблема – недоверие к нейросетям. Профессионалы во всех областях знаний воспринимали искусственный интеллект в штыки. Ну правда, разве может какая-то «железяка» сравниться с людьми, которые не один десяток лет положили на получение профессионального опыта? Недоверие доходило до саботажа, полезный инновационный инструмент не использовался.
– А замещение людей некоторых профессий искусственным интеллектом – стоит ли этого ожидать?
– На этот счет я бы вообще не беспокоился. Чтоб из-за искусственного интеллекта на улице оказались миллионы наших сограждан – такого точно не будет. К тому же освобождение людей, которые занимаются ручным трудом, порождает сопоставимое количество рабочих мест для людей, которые обучают нейросети, настраивают их, следят за ними. Правда, это число со временем будет снижаться. Когда внедряли первый комбайн, который управлялся искусственным интеллектом, это был труд огромного числа людей, которые выезжали в поле, следили за машиной, сидели в кабине, снимали данные, анализировали, настраивали алгоритм. Теперь, когда счёт таким комбайнам идёт на тысячи, комбайн просто выходит из цеха, к нему подключают модуль искусственного интеллекта и отправляют работать. Как в любой другой технологии, масштабы здесь сильно меняют дороговизну и трудозатраты.
– Где уже сегодня искусственный интеллект незаменим?
– Не могу сказать, что на сегодняшний день я знаю места, где он незаменим абсолютно. С другой стороны, речь же всегда идёт об экономическом эффекте, который даёт искусственный интеллект. Даже 10-20 процентов экономии в затратах на производство за счёт внедрения искусственного интеллекта – это очень много. Если у двух похожих бизнесов такая разница в затратах – можно считать, что один из них погибает. Ещё ладно, если это какой-нибудь ресторанный бизнес, где можно потерять в стоимости эксплуатации заведения, но подняться, например, на хорошей музыке. А вот если мы производим гайки, и они на 20 процентов дороже, чем у конкурентов – никто у нас их не купит.
Известны случаи, когда эффект от внедрения искусственного интеллекта достигает 1000 процентов. Скажем, если в ту же сталеплавильную печь попадёт недопустимый объект, придётся останавливать работу печи на месяц-два, делать капитальный ремонт, цена которого очень велика. Поэтому даже дорогой искусственный интеллект окупается довольно быстро. И эта экономическая целесообразность в рамках конкурентной борьбы сама по себе является рычагом давления на тех, кто пытается обойтись без искусственного интеллекта. Внедрил один бизнес – внедрят и все его коллеги по рынку.
– На чём ещё, кроме стоимости производства, позволяет экономить искусственный интеллект?
– На времени принятия решений. С одной стороны, это очень позитивно, с другой – влечёт определённые угрозы. Например, очевидно желание применить искусственный интеллект в военных действиях, где темп принятия решений очень важен. Но тут уже два шага до «Скайнета».
– То есть вероятность того, что люди сами с помощью машин совершат непоправимые ошибки, всё же велика?
– Да, тут у меня для вас хороших новостей нет. Тем более что на сегодняшний день информационные системы нашей планеты дырявы насквозь. Как бы вы себе ни представили степень этого несовершенства – на самом деле всё ещё хуже. В погоне за удобством пользования человек часто игнорирует выстраивание систем защиты информации, поскольку, как известно, чем лучше защищена наша система, тем труднее и неудобнее ею пользоваться.
В реальности надёжно защищены разве что главные объекты государства. Но помните случай, когда американские хакеры смогли создать вирус, который пробрался во внутренний контур управления систем производства ядерного топлива Ирана? Не зря у объектов критической инфраструктуры часто есть внутренний контур управления, который вообще никаким образом с Интернетом не связан. И тем не менее даже он не находится в полной безопасности. Один негативно настроенный человек может принести огромный вред, который крайне тяжело предотвратить.
Но здесь надо понимать ещё одно. Любая безопасность – это, грубо говоря, война цены защиты против цены нападения. Взломать можно всё. Вопрос в том, насколько сильно это надо и какие ресурсы для этого есть готовность задействовать. 30 лет назад мы снимали на ночь дворники с машин, потому что их могли украсть. Сегодня это и в голову никому не приходит. Импортозамещение тоже идёт информационной безопасности на пользу. То, что мы формируем новые информационные системы, само по себе от взлома не защищает. Но тем не менее неизвестные системы хакерам взламывать труднее. И в этом смысле любое возникновение на территории России собственных систем играет в плюс нашей информационной безопасности.
– Достаточно ли хорошо обстоят дела с контролем за работой искусственного интеллекта?
– Скорее всего, проблема контроля начнёт решаться только после того, как начнут случаться неприятные инциденты.
Любая система делается самым дешёвым образом из возможных. Первое, на чём экономят люди – это на верификации качества результата.
– Тогда можно ли в достаточной степени регулировать применение нейросетей?
– В реальной жизни это вряд ли возможно. Можно хотеть или не хотеть использовать нейросети, любить или не любить искусственный интеллект, но конкуренция вас просто вынесет из бизнеса, если вы не будете соответствовать существующему уровню. Тем более я сомневаюсь, что в области военного искусства, особенно международного, возможны устойчивые регулирующие договоренности. Взаимные ограничения имеют место только когда у двух стран есть паритет. Нарушается баланс сил – нарушаются и достигнутые договоры.
– И всё же обыденная жизнь каждого человека выигрывает от развития нейросетей?
– Однозначно выигрывает. К примеру, ситуация с такси – этот вид транспорта сильно подешевел и стал доступным как никогда раньше. Почему это произошло? Потому что эффективность использования таксопарка благодаря нейросетям сильно повысилась. Количество заасфальтированных дорог растёт вместе с качеством управления асфальтовыми заводами. Алиса уже сегодня помогает нам, но с ней, кстати, прогресс не очень заметный, всё же такие голосовые системы очень затратны по вычислительной мощности. Систему уровня ChatGPT сделать очень дорого, но не невозможно, и это произойдёт с какой-то скоростью. Так что лет через пять мы будем выходить из дома и говорить нашему умному жилищу: всё, я убежал, а ты погаси весь свет, к трём часам вскипяти чайник и, кстати, не забудь написать сообщение моему сыну, чтобы выучил уроки. У этого будет очень позитивный эффект.
В этом смысле мы движемся к более приятному обществу, в котором жить будет интереснее, которое позволит нам развиваться теми путями, которые нам больше нравятся. Любая автоматизация про это. Развитие МФЦ, по некоторым оценкам, высвободило по дню в месяц каждому человеку. Когда я впервые поменял права за час, я был потрясён – целый дополнительный день я могу потратить на полезную для своей страны работу!
– Что может конкурировать с нейросетями по силе преобразования нашей жизни?
– Изменения в энергетике, например. Одна из причин, почему существует мобильный телефон – мы научились делать очень маленькие энергоёмкие аккумуляторы. А теперь представьте себе, что у нас есть источник энергии мощностью в 1 мегаватт, который умещается в дорожную сумку. Если он появится – считайте, что у нас в кармане есть собственный вертолёт. Изменит это мир? Конечно.
Посмотрим в другую сторону. В обществе много обсуждаются проблемы транспорта, пробок, доступности дорог. Но одна из схем решения транспортных проблем – это вообще отказаться от того, чтобы куда-то ездить. Если выполнять свою работу из дома, это тоже изменит мир, и поможет этому широкополосный Интернет. Надел VR-шлем – и ты уже на работе. Виртуальная реальность уже сегодня позволяет крановщику не работать на опасной верхотуре крана, а сидя дома в шлеме виртуальной реальности двигать всё те же рычаги. Но пока широкополосный Интернет с необходимым качеством не гарантирован, управлять сложным объектом на расстоянии очень рискованно.
– Так будет ли мир, в котором всё большее значение играет искусственный интеллект, более безопасным, чем прежде?
– Посмотрим на это философски. В целом вектор однозначно направлен в сторону более безопасного мира. Если посмотреть в прошлое, то прогресс просто неоспорим, он очевиден в рамках жизни даже одного человека. Быть пессимистом нет никаких оснований. Что касается нейросетей, то и без них происходит очень много процессов, которые для нас могут кончиться плачевно. Мы обсуждаем искусственный интеллект, который может не справиться с управлением машиной, при этом вокруг нас огромное количество нерадивых водителей, и мы с этим ничего поделать не можем.
– А насколько велика для человека опасность «облениться» без необходимости действовать ради достижения базовых благ?
– Интересный момент. Мне кажется, многие люди внутренне мотивированы двигаться и искать. Но есть и те, для которых это будет вызовом – можно сидеть дома, ничего не делать, смотреть видосики, тогда зачем что-то ещё? Трудно дать оценку человечества по этому критерию – сколько нас таких, а сколько других, не повлечёт ли это неприятные эффекты вплоть до сегрегации.
Надежда на то, что до сих пор человечество успешно справлялось с поглощением эффектов прогресса. Вы же знаете, что в некоторый момент бытовало убеждение, что предел развития городов достигнут? Потому что начиная с определённого размера города, вывозить с улиц лошадиные экскременты становится невозможным. И это рассматривалось как реальный, непреодолимый барьер для роста человеческой цивилизации. Однако в какой-то момент эта проблема просто перестала существовать вместе с лошадями в качестве основного средства передвижения… Нам трудно предсказывать будущее, потому что мы не знаем, какие в нём произойдут кардинальные изменения, влияющие на устройство человеческой жизни.
Таких примеров довольно много. Просто из сегодняшнего дня мы не видим всех возможностей, которые принесут завтрашние технологии. Они сделают мир ощутимо другим, и я уверен, что обновлённый мир будет лучше.
Беседовала Анна Меченова
ГОР