Нейрострахи расставили сети

Технология нейросетей известна уже давно, но заговорили о ней повсеместно совсем недавно. Куда движется мир технологий и насколько опасен для человека искусственный интеллект? Мы узнали это у ведущих экспертов и проверили на себе.

Какая пицца лучше?

Личное знакомство с нейросетью началось с чат-бота, рекламу которого я нашла в открытом доступе в сети. Наверное, не стоит указывать название, чтобы не нарваться на разбирательства. Бот был настолько любезен, что предлагал любому зарегистрированному пользователю сделать три запроса объёмом не более 50 слов совершенно бесплатно.

С клавиатуры сорвалось проще простого: «Какая пицца лучшая в Пензе?»

Ожидалось, что искусственный интеллект выдаст список хотя бы из нескольких мест и можно будет выбрать. Но нейросеть быстро перенаправила меня на известные сайты отзывиков. Их и без неё все знают. Просьбу конкретизировать ответ виртуальный собеседник вежливо отклонил: «Прошу прощения, но как AI я не могу предпочесть одну конкретную пиццу в Пензе. Моя задача – предоставлять информацию и рекомендации на основе доступных данных. Если есть конкретные запросы или пожелания, я буду рад помочь».

Хорошо, вот конкретная задачка по стереометрии, которую задали на дом сыну в 11 классе. Признаюсь: как гуманитарий, понятия не имела, с какого края к ней подойти. Вот где пригодится искусственный интеллект! Но не тут-то было. Решать задачу сыну всё-таки пришлось самостоятельно, потратив на это минут 40. Нейросеть не стала так себя истязать. Вернее, она даже не поняла вопрос и не нашла ничего лучше, как написать: «Что-то пошло не так… повторите».

Поскольку попытка осталось всего одна, мы не стали искушать судьбу и спросили то, что сейчас больше всего беспокоит человечество: «Когда искусственный интеллект завоюет мировое господство?»

«Как AI, я не могу предсказать будущее и не могу знать, произойдёт ли завоевание мирового господства со стороны искусственного интеллекта. Однако в настоящее время многие люди изучают вопросы технической и этической безопасности AI и стремятся создавать системы, которые будут использоваться для решения наших больших проблем, повышения нашего уровня жизни и защиты нашей планеты. Важно подчеркнуть, что любой прогресс в AI должен быть направлен на улучшение и упрощение жизни людей, а не на их контроль или угрозу их существованию».

Этот развернутый ответ был явно заготовлен, потому что пришёл молниеносно. В нём меня напрягли две вещи: о какой нашей планете идёт речь и какие у нас с ботом могут быть общие проблемы?

В чём хитрость?

О том, что исследования по искусственному интеллекту нужно срочно прекратить, иначе недалеко до катастрофы планетарного масштаба, первым стал трубить на весь мир самый известный инвестор научного мира Илон Маск. Пока одни ужасались выдвинутой им гипотезе о восстании машин, другие увидели в этом нечестную конкуренцию. Как пишут СМИ, Илон Маск вложился в компанию по обучению нейросетей, но не слишком своевременно. Другие создатели искусственного интеллекта ушли на несколько лет вперёд – их «дети» уже пошли в школу, а у Маска пока – в ясли. Поэтому неудивительно желание отстающих любыми способами догнать идущих впереди.

– В области использования искусственного интеллекта и, в частности, нейросетей действительно есть большие сдвиги. Становится больше людей, которые в этой области разбираются. Они ищут те задачи, где можно применить технологии искусственного интеллекта. С этой точки зрения всё хорошо, ведь у нас появляется шанс автоматизировать новые области. В целом, технологии становятся всё более доступными. Сложные вещи упрощаются, чтобы их стало возможным использовать в как можно более широком наборе проектов, – говорит преподаватель Московского авиационного института, ведущий эксперт по искусственному интеллекту и машинному обучению Дмитрий Сошников.

В 1994 году он занимался проектом по созданию виртуального доктора в Боткинской больнице Москвы, чтобы компьютер мог ставить диагноз. Эта разработка много лет использовалась в медицине. Сам Дмитрий затем ещё 16 лет работал в Майкрософт и непосредственно наблюдал, как сильно за 30 лет изменился искусственный интеллект.

– На мой взгляд, он стал делать совершенно удивительные вещи. Например, рисовать картины. Или разговаривать с человеком. Сейчас это очень широко обсуждают, потому что начинают думать: а не заменит ли чат-бот человека? А какие профессии останутся? – пустился в рассуждения Дмитрий Сошников, выступая перед абитуриентами МАИ.

Преподаватель задал вопрос, который сейчас волнует многих поступающих: какой университет выбрать – где проще учиться или где сложнее? В принципе, нейросеть дала ему полезный совет. Учиться в любом случае будет тяжело, надо выбирать перспективные направления и идти туда. Казалось бы, примерно такой же совет могли дать и родители.

– В общем-то, искусственный интеллект демонстрирует разумное поведение. В каком-то смысле это магия – когда он беседует с нами, как человек. Но нужно отдавать себе отчёт, что магия – это технология, которую большинство ещё не освоило. Когда иллюзионист демонстрирует фокус, есть секрет, который вы не знаете, и вам кажется, что у вас на глазах сотворили чудо. Примерно то же самое происходит с нейросетями, – говорит Дмитрий Сошников.

Боятся новых технологий именно те, кто в них не разбирается, считают эксперты.

Нейросети работают по принципу нервных клеток в головном мозге. Их очень много, они определённым образом объединены в единую архитектуру. То, что нейросеть выдаёт на выходе, зависит от того, как она расценивает входящие сигналы. Нужен процесс машинного обучения. Проще говоря, необходимо показать нейросети много примеров, используя алгоритм обратного распространения ошибки, чтобы сеть чему-то научилась.

Все успехи последних лет основаны на методе диффузной модели. В итоге удалось получить карманного художника. По языковым моделям нейросеть можно обучить любому языку, для этого достаточно прочитать то, что уже содержится в Интернете. В процессе этого нейросети начинают многое понимать о человеческом мире. Но с ними сложнее работать, чем с человеком. Искусственный интеллект привносит много случайностей. Поэтому всю информацию за ним приходится перепроверять.

Для пользы дела

Сегодня нейросети могут не только генерировать картинки или работать в колл-центре, сортируя входящие звонки.

Сотрудники Пензенского госуниверситета научили нейросети прогнозировать и предотвращать аварии на промышленных предприятиях, усовершенствовав существующие системы контроля. Аспирант Владислав Мыскин использовал реальные показания с датчиков и устройств работающей противоаварийной автоматической защиты в режиме реального времени. Он продолжает прорабатывать математические алгоритмы и обучение нейронных сетей.

Разработка востребована на технически сложных и особо опасных объектах (к таким относят химические и нефтеперерабатывающие заводы, ТЭЦ). Ей уже заинтересовалась крупная компания – разработчик программного обеспечения в сфере промышленной автоматизации. В ближайшее время ноу-хау может быть встроено в общедоступную систему диспетчерского управления и сбора данных SCADA.

Сотрудники МГУ представили собственную комбинацию известных методов на основе архитектуры нейросети U-Net. Разработка точно и надёжно обнаруживает трещины на изображениях дорожного полотна, превосходя аналоги по эффективности и скорости. Подход может дать начало новым системам мониторинга дорог в реальном времени, чтобы повысить качество транспортной инфраструктуры.

В МФТИ в ходе эксперимента запустили первую в России квантовую нейросеть, которая умеет решать три вида задач: задачу чётности, обнаружения признаков рака молочной железы и типологии различных вин, сортируя напитки по десятку разных параметров.

– Мы нашли удачную структуру квантовой цепочки и алгоритм обучения, который позволяет нам достичь точности 94 процента для стандартных задач классификации с несколькими метками и точности 90 процентов при распознавании рукописных десятичных цифр, – рассказал один из авторов работы Алексей Толстобров.

Разработчики планируют научить сеть разбираться с более сложными процессами классификации, протестировать способность системы решать задачи регрессии, а также перейти от классических данных к квантовым, способным превзойти классические компьютеры.

Что ж, когда-то компьютеры тоже были в пользовании исключительно секретных служб, а теперь ими способен управлять даже ребёнок.

Наталья Макарова