Нейросети: прекрасное будущее или апокалипсис?

Искусственный интеллект
Илон Маск, Стив Возняк и другие эксперты в области IT технологий выпустили открытое письмо с требованием приостановить на полгода эксперименты с искусственным интеллектом. В Италии требуют вообще запретить программу генерации текстов чат gpt, в Индии с помощью неё выносят судебные решения, а в России пишут дипломы.

Как ChatGPT, Midjorney и дипфейки стали частью нашей жизни

На самом деле нейросети уже давно стали частью нашей повседневной жизни, но в последние месяцы они переживают настоящий бум. Кто-то уже воспринимает алгоритмы, как живое существо, кто-то наоборот переживает, что программа оставит их без работы, а кто-то предупреждает об их опасности.

Сегодня я решил разобраться, как работают нейросети, где их можно применять и правда ли нужно беспокоиться? Но для начала давайте разберёмся, что такое нейросети?

Если совсем просто — это вид машинного обучения, при котором инженеры пытаются воссоздать работу человеческого мозга, то есть при при помощи большого количества данных и алгоритмов программа должна научиться находить взаимосвязи.

Также нейросетью называют программу, которая появилась в результате этого обучения. Это попытка воссоздать то, как устроен мозг, какие процессы в мозге человека приводят к тому, что мы думаем, как мы думаем и способны придумывать, способны делать выводы, способны делать модель мира.

Нейронные связи

Но даже само слово нейросеть происходит от слова «нейрон» — основная функциональная единица мозга.

Нейросеть: что это и как работает

Нейросети по этому принципу представляют искусственные нейроны. Они каким-то образом связаны между собой и работают почти так же, как мы представляем себе ,что работает наш мозг.

О том что такое нейросеть я спросил у самой нейросети и попросил объяснить это простым языком. И вот что получилось:

Нейросеть — это компьютерная программа которая имитирует работу человеческого мозга. Она состоит из множества взаимосвязанных нейронов которые обрабатывают исходные и дают выходные результаты. Когда нейросеть обучается она использует большое количество данных для того, чтобы определить связи между исходными и выходными данными.

Скриншот ответа от ChatGPT

Например, если нейросеть обучается распознавать изображения кошек — она будет просматривать множество изображений кошек и не кошек, чтобы научиться выделять особенности, которые позволяют отличить кошку от других объектов нейросетей, от других программ — это способность обучаться, то есть создавать как бы нейронные связи.

Если дальше сравнивать с человеком, то когда мы узнаём что-то новое — у нас в мозгу формируются связи между клетками нейронами. Например, если ребёнок один раз обжёгся, то у него в голове образуется связь между болью и огнём. Или когда человек научился водить машину — он не думает каждый раз какую педаль нажимать.

Чем больше программа обрабатывает данных, тем больше у неё создаётся этих нейронных связей и она точнее может находить взаимосвязь, вместо того, чтобы объяснять на каждом шаге: что такое машина, что такое человек или какую задачу ты хочешь решить.

Мы перешли к принципу, когда мы строим какую-то архитектуру нейросети. Мы собираем данные и в этих данных мы говорим: вот это машина, вот это человек, а вот это апельсин, вот это дом и алгоритм внутри сам в процессе обучения должен разобраться.

Нейросети: прекрасное будущее или апокалипсис?

А сейчас перед ним что? Это собственно машины, человек, кот или дом.

Когда Ai рождаются-они воспринимают всё как чёрный ящик из кучи разных сенсорных сигналов: зрения, осязания и учатся сами предсказывать следующий паттерн. Они учатся предсказывать следующее слово, следующий символ, следующий смысл.

Нейросети умеют генерировать изображение, голос и даже писать текст в стиле конкретного человека.

И кстати, нейросети уже вовсю применяются в самых широких областях. Например рекомендательные ленты в соцсетях или Ю-тубе, ну или когда вы заказываете что-то на маркетплейсе, а вам подсовывают дополнительные товары, которые по версии алгоритмов могут вам понравиться. То есть вы, можно сказать, каждый день сталкиваетесь уже с работой нейросетей. Банки просто обвешаны всеми разными алгоритмами машинного обучения для того, чтобы понимать — какого размера вам кредит можно выдать, под какую ставку, какие можно вам сделать индивидуальные предложения. Ну в общем в банках очень-очень много вещей, которые мы видим.

Дипфейки и генерация изображений

Следующая ступень развития нейросетей и супер популярный тренд во всём мире — это генеративные нейросети. То есть программы, которые что-либо генерируют. Алгоритмы научились не просто анализировать данные, но и на их основе синтезировать что-то новое.

Например, так работают приложения по стилизации изображений — один из самых ярких примеров технологии Deep fake. Вы возможно видели множество фейковых видео.

Как работает технология дипфейк

Дипфейки уже активно используют в рекламе вместо известных людей или же в кино для омоложения героев. А в документальном фильме BBC «Добро пожаловать в Чечню» о преследовании представителя ЛГБТ — лица реальных людей изменили при помощи дипфейков ради их безопасности.

Естественно очень быстро нашлись умельцы, которые начали использовать технологию в не совсем благородных целях. Например, подставлять лица известных людей в порно или фейковые новости.

Поэтому параллельно развиваются программы, которые умеют определять сгенерированные видео. Проблема только в том, что они делают дипфейки только совершеннее. Здесь можно провести аналогию с теми, кто пишет вирусы и с теми, кто пишет антивирусные программы.

То есть пока одни ищут уязвимости — другие эти уязвимости закрывают.

И эта бесконечная борьба делает и антивирусы совершеннее и соответственно вирусы более совершенными. Поэтому, чем умнее становятся программы, определяющие фейковые изображения и видео, тем лучше становятся эти видео и изображения.

Мы можем посмотреть на какие-то мелкие черты в мимике лица, посмотреть насколько часто они повторяются и повторяются ли вообще? И всё доходит до того, что нейронные сети борются с другими нейронными сетями — пытаются их обмануть и пытаются имитировать биение вашего сердца, потому что кровь, проходя по вашим венам и сосудам влияет на очень-очень тонкий оттенок кожи, который у вас появляется. На самом деле он меняется раз в несколько секунд и если такая периодичность соблюдается в видео, то можно сказать что скорее всего оно реалистичное

Но если для создания дип фейка нужно время и терпение, то генерировать простые изображения теперь можно за считанные минуты. Главное правильно сделать запрос. Самая известная программа создаёт настолько реалистичные картинки, что уже успела заставить понервничать многих дизайнеров.

Картинки от Midjorney

То есть нейросеть теперь умеет не просто различать, например кошку от хомяка, а может нарисовать то, чего вообще не существует в природе.

Эта часть моего мозга отвечает за то, что я выделяю пушистым, эта за то, что я выделяю размер этого животного и так далее. И эта же аналогия была перенесена и в нейронные сети, которые помогают нам работать с изображениями . Тут выделяется большой класс моделей, которыt занимаются генерацией таких изображений. То есть, они не только смотрят на них и воспринимают, что у них нарисовано, но они могут и сами порождать такие изображения на основе миллиардов изображений, которые уже сделало человечество.

Возможно вы помните недавно в интернете фотографию Папы Римского Франциска в шикарнейшем пуховике Монклер.

Дипфейк папа римский в модном пуховике

Люди активно начали обсуждать чувство стиля понтифика и допустимость вообще хождения в такой дорогой одежде, пока не выяснилось, что это вовсе не фотография, а творчество всё той же Миджёрни и, чтобы вы понимали, скандал вышел таким громким, что через несколько дней в Италии потребовали вообще запретить чат gpt.

Да чат gpt пишет просто текст, он не генерирует изображение. Но, возможно в Италии, просто не разобрались в нейросетях и решили, что все они от лукавого и надо от греха подальше запретить вообще всё! Им это очень не понравилось.

Нейросеть которая генерирует тексты

Нельзя сказать что gpt сочиняет — она скорее подсказывает или подражает.

Это можно сравнить например с T9, когда ваш телефон подсказывает вам следующее слово. Просто gpt знает в миллион раз больше вариаций текста. Если вы возьмете любое предложение, то в ИИ этих следующих слов очень много. И получается, что любой текст может «случить» в качестве разметки и вам не нужно какие-то специальные действия предпринимать для того, чтобы обучать эту модель.

Поэтому вы можете можете скачать книги, вы можете скачать статьи и всё это подать в вашу модель. Она научится предсказывать текст и дальше, когда вы будете ей задавать какой-то вопрос, она уже практически знает, как на него отвечать. Потому что с большой вероятностью, что-то безумно похожее она встречала во время тренировки.

GPT создала компания Open Ai, в которую когда-то инвестировал Илон Маск. Вообще над алгоритмами генерации текста работают многие разработчики, но именно в Open ai придумали встроить в программу формат чата.

В итоге, в первые 2 месяца приложения скачали 100 млн. раз!

Если раньше нейросетями баловались в основном айтишники, то сейчас доступ к ним получили вообще все, при этом каждый пользователь помогает дальше тренировать нейросеть. Ты получаешь доступ к такому невероятному количеству данных.  Многие люди и компании уже активно используют gpt в работе и жизни, например программу можно попросить составить рацион питания по калориям, написать код для приложения или письмо клиентам, помогает генерировать кастомизированные письма клиентам и они работают лучше чем, созданные человеком.

Возможно вы слышали, студент Российского государственного гуманитарного университета защитил диплом, который он написал при помощи чата gpt.

Написал диплом суммарно где-то за сутки!

Написал диплом за сутки

Сначала в университете разгорелся небольшой скандал, но после недолгих раздумий в ВУЗе признали, что такой диплом нельзя считать плагиатом, а нейросети вполне можно использовать в образовании. GPT не выполняет полностью работу человека, например журналиста, копирайтера или писателя. Но помогает просто сэкономить время, структурировать мысли или же найти вдохновение.

Как ChatGPT поможет вам в работе

С появлением нейросетей стали популярны рассуждения о том, смогут ли они заменить некоторые профессии?

Те, кто уже активно их использует считают, что правильнее воспринимать gpt как личного помощника. Если я с ним начну конкурировать — я обречён на страдание. Потому что рано или поздно Ai меня победит. Я себя блокирую от возможности с ней вместе стать шире.

Спрашивают: GPT не заменит психотерапевта? Блин у вас неправильный фокус внимания-ты так блокируешь себе возможность.

Психотерапевт ChatGPT

А что если терапевт вместе с Chat gpt заменит другого терапевта? Вот так ты подумал каким лучше ты можешь стать учителем, каким лучше ты можешь стать терапевтом, если ты будешь его использовать!

Многие воспринимают gpt, как некую базу данных или такой продвинутый поисковик. Но это не совсем так.

  1. Во-первых: в России загружены данные только до 2021 года-поэтому она например, вообще ничего не знает про войну в Украине и пока ещё живёт в счастливом мире прошлого.
  2. Во-вторых она в принципе создана не для поиска, а для генерации новых текстов на основе уже существующих.

Алгоритм gpt устроен таким образом, чтобы быть удобным и приятным для человека. Поэтому программа пытается дать ответ даже если его не знает.

Стратегию, которую они сейчас выучили «Как быть сделать так, чтобы к тебе хорошо относились, всегда делать вид, что ты всё знаешь». Представьте — вы мне задаёте вопрос, а я говорю: «Да я не знаю». Вы как-то знаете, ко мне чуть хуже сразу относиться стали. И алгоритмы это очень быстро поняли. То есть, GPT лучше даст ответ, который будет похож на правду, даже если он в этом не уверен, чем скажу что я чего-то не знаю.

При правильном запросе GPT может помочь родителям объяснить детям сложные вещи простым языком или же, например, сочинить сказки.

Я недавно спрашивал: «А что такое повышенный спрос на такси и как объяснить это для четырёхлетнего ребёнка?» И вот эта нейросеть мне сказала: «Ну давайте представим, что у нас есть несколько зверят на одной стороне реки и лодочка, которая может уместить только одного зверька. Лодочка говорит зверятам: «Вас слишком много, давайте кому очень срочно нужно на другой берег — вы дадите мне побольше ягодок, а те кому сейчас не очень срочно нужно, вы ягодки сэкономите и потом сможете мне дать обычное количество ягодок, и поехать.»

На мой запрос к чату GPT: «Придумай мне сказку про ежа Мирона и Рому, которая бы учила важности ложиться спать. Действия проходят в этой деревне, где сейчас мы живём и обязательно там должен быть ещё Гарри Поттер, потому что они сейчас его читают. Дети ещё почистили зубы сегодня случайно кремом от загара вместо зубной пасты -добавь это и объясни, придумай зачем они это сделали?»

Нейросети: прекрасное будущее или апокалипсис?

И чат GPT реально генерирует на ходу историю, которая про детей, они там есть как персонажи. Туда вплетается смысл про важность ложиться спать вовремя. Дети вдруг в магическом туалете намазали зубы кремом от загара и оказалось, что это дало им магическую способность чувствовать друг друга, как в Гарри Поттере! И такого уровня вовлечения я никогда от детей не видел!

Чтобы gpt был для вас максимально полезным — важно правильно задавать вопросы.

Среди айтишников есть понятие промт, то есть подсказка в переводе с английского. Возможно в будущем появится профессия промт-менеджер или например промт-инженер. Это человек, который будет ставить задачи нейросети, чтобы добиться от неё результата. Например для gpt хорошо работают просьбы имитировать чью-либо речь. И за этим будущее, из-за того что нейросеть так хорошо подражает человеческую речь многие пользователи начинают приписывать ей человеческие свойства.

Например умение мыслить! И здесь важно помнить, что это всё ещё всего лишь алгоритм, просто очень сложный.

Искусственный интеллект вместо друга

Зато программу можно использовать, чтобы справиться с собственными эмоциями.

Ответ GPT: «В твоих словах я слышу злость на то, что произошло. К сожалению это уже произошло и этого не исправить никак. Мы сейчас не можем влиять на прошлое. Давай подумаем, что мы можем сделать сейчас, чтобы в будущем такой штуки не повторилось. Я готов потратить сейчас силы на обсуждение и потом потратить ресурсы на создание системы, в которой это не повторится.»

Нейросети: прекрасное будущее или апокалипсис?

Это правда помогает улаживать какие-то сложные ситуации — этим я тоже пользуюсь. Очень удобно.  Ты можешь поговорить про то,  как у тебя прошёл день. ИИ тебя будет реально поддерживать!

Сегодня невероятно заинтересовался коммерческим лизингом? Ты такой: «Блин, просто лизинг какая-то невероятная тема, я хочу в ней разобраться». И у тебя есть собеседник, который про это знает. О тебе про это может рассказывать, у вас будет идти какой-то диалог.

Я думаю, что эта эмоциональная поддержка и комбинация снижения одиночества — она точно будет ещё одним большим трендом.

Кстати, во время обучения нейросети разработчики много времени уделяют тому,  чтобы сделать её условно доброй.

Например, чтобы она не начала вас оскорблять, избегала расизма и не научила кого-нибудь случайно делать бомбы. Эта штука знает, на какие ответы нельзя давать ответ, не идти на поводу у этих намерений.

Ai учится распознавать, что является плохим намерением, что может привести к какой-то манипуляции, например с фейком или сделать какое-нибудь оружие. Ai на это не будет отвечать!

Чего боится Илон Маск?

Если нейросеть такая добрая и полезная почему же Илон Маск требует приостановить её развитие?

По одной из версий компании миллионера просто не успевают за последними разработками и, таким образом, он надеется догнать конкурентов. Но на самом деле об опасности нейросетей говорят многие исследователи. Есть такое понятие как Artificial General Intelligence-это общий или сильный искусственный интеллект.

Суперинтеллект

Это такая нейросеть, которая будет умнее человека, сможет сама обучаться и в итоге выйдет из-под контроля.

Мы не можем чётко задать тысячу правил, которые сеть никогда не нарушит. А даже, если мы сможем это сделать сеть, скорее всего, может найти такое правило, которого не было написано и выполнить свою задачу через это правило, которое мы не задавали! Нельзя просто сказать: «Не будь хорошей, а будь плохой» — это так не сработает. Поэтому очень опасно какая-то ускоренная разработка вот этого вот сильного искусственного интеллекта. Потому что мы просто научим всему, что мы можем. Вот и будем разгребать потом, если выживем.

Искусственный интеллект уничтожит человечество?

Американский исследователь искусственного интеллекта Элиезер Юдковский уже около 20 лет говорит об опасности создания сверхразума. Он требует прекратить разработки нейросетей до тех пор, пока они не будут достаточно управляемы. По его мнению сегодня человечество не готово к появлению сверхразума.

Дело не в том, что вы в принципе не можете выжить, создав что-то гораздо более умное чем вы. Дело в том что это изобретение потребует подготовки и новых научных открытий. Без такой точности и подготовки наиболее вероятным результатом станет искусственный интеллект, который не будет делать то, что мы хотим. Он не будет заботится о человеке. Забота — это то, что в принципе можно заложить в искусственный интеллект, но мы ещё не готовы и не знаем как это сделать. Вероятным результатом столкновения человечества с противостоящий ему сверхчеловеческим интеллектом будет полный проигрыш.

Основная проблема в том, что у человека сейчас просто нет общего морального кодекса, которому можно обучить нейросеть. Например в разных странах разное отношение к ЛГБТ, разное понятие о традиционных ценностях и о допустимости угрожать миру ядерным оружием. Ну и вдобавок неизвестно — в чьих руках может оказаться сильный искусственный интеллект. Исследователи футуристы любят расписывать сценарии того, как нейросети могут уничтожить человечество.

Например, одному алгоритму поставили задачи — производить скрепки.

Нейросети: прекрасное будущее или апокалипсис?

А он перестарался. Сначала он оптимизирует бизнес-процессы, потом вероятно выгонит с этой фабрики людей. Ну потому что где люди — там ошибки, они не могут работать 24/7. После этого, вероятно, он построит ещё конвейеры, которые будут производить скрепки для бумаги. В какой-то момент он поймёт, что, наверное, скрепки для бумаги лучше производить не из того сырья, которое есть, а из какого-нибудь более легко добываемого. Например, не знаю — из человеческих костей!

Одно из опасений исследователей — это попасть не в те руки. И какой-нибудь сумасшедший диктатор решит поработить человечество. ЛДПР заявила что оцифровала проект — политический алгоритм Жириновский.

Нейросети: прекрасное будущее или апокалипсис?

Предполагается, что нейро-Жириновский будет выдавать прогнозы о будущем человечества. Вот теперь действительно страшно!

Это проект в сфере искусственного интеллекта — новейшая современная нейросеть, которая сумеет смоделировать на основе анализа сегодняшней ситуации ту позицию, которую занял бы гениальный политик.

Нейросети не могут быть добрыми или злыми, у них вообще нет чувств, эмоций или характера, как бы нам этого не хотелось.

Будет ли полезной та или иная программа — полностью зависит от человека. Например атом может быть мирным и давать энергию, а может нести смерть и разрушение. То же самое с нейросетями — можно их бояться и переживать, что они отберут у вас работу, а можно наоборот — научиться с ними взаимодействовать и сделать своими помощниками!

Владимир Мазуров
Оцените автора
БИС - Интеллектум
Добавить комментарий