Нейросети захватили мир?

Нейросети создают хаос

Искусственный интеллект в последнее время делает много шума в общественности, а еще становится поводом для споров и дискуссий. Ольга Валерьевна привела несколько примеров, подтверждающих это.

Недавно пользователи Reddit создали новость о землетрясении с помощью нейросети Midjourney, которая позволяет генерировать изображения с помощью текста. А детали и подробности были созданы с помощью ChatGPT.

– Есть новость с сайта CNN о том, что, по прогнозам специалистов, возможно, порядка 300 млн рабочих мест будут в ближайшее время заменены искусственным интеллектом. Так, в Америке примерно четверть рабочих мест будет полностью заменена, а две трети могут быть автоматизированы, – рассказала Ольга Валерьевна.

Также было создано письмо-петиция, которое подписано тысячами людей. Они просят остановить на 6 месяцев работу искусственных интеллектов. Обоснование такое: «люди не могут понять, предугадать а также контролировать искусственный интеллект». Была выдвинута идея разработать протоколы для дальнейшего использования искусственного интеллекта, ограничивающие их. Подобного придерживается и Илон Маск.

В Италии уже запретили использование ChatGPT. Власти пришли к выводу, что нейросеть нарушила законодательство. Известно, что произошла массовая утечка личных данных пользователей из-за технического сбоя.


Генерация Stable Diffusion по запросу «искусственный интеллект»

– В этом году зимой в РГГУ (Российский государственный гуманитарный университет) был защищен диплом на оценку «удовлетворительно». После этого студент написал об этом в социальной сети Twitter. Преподавателям стоит задуматься: если один человек написал и признался в этом, то сколько человек об этом могли не написать, – объяснила спикер.

Искусственный интеллект добрался и до ЕГЭ. Он сдал экзамен по русскому языку (не только тестовую часть, но и сочинение) с повышенным уровнем сложности на оценку «четыре». А этого достаточно для поступления в ВУЗ.

Ольга Валерьевна отмечает, что все эти события и новости, естественно, приводят к определенной реакции. И она может быть разной. Некоторые люди активно просят ограничить доступ к ChatGPT, а Университет ИТМО, например, напротив, говорит ему «да». В любом случае,

Суть языковых моделей

GPT – это языковая модель. Как же она, а также другие системы выбирают, что ответить на запрос? Оказывается, существует определенная зависимость.

Ольга Валерьевна привела пример из межличностных отношений людей – выбор партнера. Когда мы узнаем человека, «мы взвешиваем каждый признак, например, харизма и болтливость, суммируем это». Что больше повлияло на наш выбор: его болтливость или харизматичность?

– То, что появилось в 2017 году и что приближает нас к текущему моменту – и это попытки проанализировать слова. Например, мы говорим про мышку компьютерную или про ту, на которую охотится кошка. Раньше для системы это была одна и та же мышка, потому что тогда слово рассматривали как один элемент, – рассказала эксперт.

Становится понятно, что в языке не все так однозначно. В 2017 году появилась идея о том, что необходимо учитывать контекст. Она была реализована и позволила не смотреть на слово только как на какой-то элемент в тексте, а опираться на его смысл.

– Что еще важно – мы обращаем внимание при генерации предложения не только на слово, которое было перед стоящим, но и на весь контекст этого предложения, – уточнила Ольга Валерьевна.

Это все привело к взрыву и развитию языковых моделей, включая и GPT, которая легла в основу ChatGPT.



– Как моделируется язык? Есть определенная вероятность. Модель обрабатывает много текста. Это буквально все, что можно «выкачать». Она старается выявить закономерности в рамках этой модели, и для каждой последовательности символов теперь у модели есть вероятность. После этого она усваивает, например, что вероятность фразы «маленькая девочка играет с мячом» выше, чем «маленькая девочка играет с ружьем». Подобные вероятности и используются при генерации текстов всеми языковыми моделями. Так работает и GPT, – рассказала специалист по компьютерной лингвистике Донина.

Далее Ольга Валерьевна задала вопрос аудитории: «Какие слова будут выдаваться моделями, чтобы это звучало максимально естественно?»

Человек из зала ответил, что наиболее популярное, вернее, наиболее вероятное.

– Логично, – ответила Ольга Валерьевна, – и изначально исследователи так и делали. Но оказалось, что лучше всего выбирать из «серединки». Потому что если всегда выдавать наиболее вероятное явление, то текст будет скучным, банальным, предсказуемым. И не всегда обычно люди на самом деле так говорят. Именно поэтому была внесена поправка в алгоритм.

О GPT и ее несовершенствах

GPT – это нейронная сеть, алгоритм, который пытается определить закономерности и сделать вывод, исходя из закономерностей. Он учитывает весь контекст сгенерированного предложения и каждого слова, проанализировав тексты, по которым эта языковая модель обучалась.

Сама технология развивалась стремительно. Но любая система – результат проб и ошибок, а также она не может быть идеальной.

Многие боятся, что искусственный интеллект скоро заменит людей. А может ли он думать, понимать?
– Думать, как человек, он не умеет, но может анализировать много данных и выявлять закономерности. И уже их использует, чтобы анализировать все новые выходные данные, – объяснила спикер.



Ольга Валерьевна рассказала, что можно «попросить» искусственный интеллект написать петрарковский сонет. И он не сможет этого сделать, потому что он анализировал большое количество текстов, в которых преобладают сонеты знаменитого Шекспира. Он расскажет все про Петрарку, но сгенерировать этот сонет не сможет.

Также у GPT могут возникать «галлюцинации» – это отсутствующая информация.

– Можно попросить его написать 5 статей по определенной теме. И если этих статей изначально у него не было по каким-то причинам, то он не найдет их в своей базе и не сможет их выдать. Но он их сгенерирует, сочинит, и очень натурально. И в целом GPT может выдать красивый текст по запросу, но с фактическими ошибками, – рассказала Ольга Валерьевна.

Стоит также помнить, что основное обучение GPT происходило на базе английских текстов, а на русском было уже дообучение. И если попросить рассказать что-то про русского исследователя, о котором заграницей знают мало, и информация о нем не была переведена на английский язык, то тоже могут возникнуть «галлюцинации».

ChatGPT – зло или благо?

Люди используют нейросети для разных целей. Есть как негативные примеры, о которых рассказали в начале лекции, так и позитивные.

Например, один папа, который занимается разработкой искусственного интеллекта, попросил его объединить историю Литовского княжества и мир игры Genshin Impact, чтобы его дочери было легче и интереснее выполнить домашнее задание. И искусственный интеллект сгенерировал на основании сюжета игры информацию про отношения в княжестве. С помощью нейросети можно объединить не совсем интересную, но важную информацию и мир любимых героев из сериала, игры или еще откуда-то. Таким образом, создается мотивация для изучения чего-либо.

Так нейросеть – это плохо или нет?

– Мы не в первый раз начинаем что-то запрещать. Когда изобрели калькуляторы, их тоже просили запретить, ссылаясь на то, что учащиеся разучатся считать. У нас появился интернет, википедия, гугл, и каждый раз новое нововведение рождало новые споры или просьбы об отмене, – пояснила эксперт.

Ольга Валерьевна сказала, что эта система уже появилась, и она никуда не денется, «никто не откажется от такой чудесной технологии».

А новые технологии диктуют новые правила. Сейчас некоторые работодатели начали требовать от сотрудников умение правильно задавать вопросы ChatGPT для того, чтобы получать правильные ответы.

Всем при работе с нейросетью всегда стоит помнить о том, что нужно как можно точнее задавать вопрос и проверять факты, ведь могут возникать «галлюцинации».

О минусах использования искусственного интеллекта студентами, кстати, может рассказать сам ChatGPT, если попросить. Опасность потери личности, недостаточная точность, недостаток межличностного взаимодействия и другие последствия могут грозить обучающимся.


Генерация Midjourney по запросу «грустный русский студент»

В конце лекции Ольга Валерьевна ответила на вопросы аудитории, в том числе на заявленный в названии лекции «ChatGPT: хайп или революция?» По ее мнению, это точно революция, которая повлечет ряд изменений в обществе.

Впечатлениями о лекции поделилась студентка 4 курса факультета РГФ ВГУ Мария АЛЕКСЕЕВА:

– Мне понравилась лекция. Было достаточно информативно и полезно, как для людей, впервые услышавших это, так и для тех, кто уже сталкивался, но тонкости не изучал. Думаю, эта лекция – своеобразный толчок для людей, и для меня в том числе, чтобы добавить этот инструмент в свою жизнь, но использовать его разумно, и при этом не забывать о своей креативности и личном подходе.

Софья СОЛОХИНА
Фото автора и из открытого доступа сети Интернет
Фото на превью сгенерировано Midjourney по запросу: «нейросети изменили мир»