Любая текстовая модель генеративного ИИ — это матрица. Наложение одних текстов слоями на другие. Если простым языком, текстовая генерация это подстановка слов — ассоциации. Если человек может подобрать несколько десятков ассоциаций к слову “дом”, то нейронки сотни и тысячи.
По этому принципу она и составляет гладкие тексты и делает посты, новости СМИ и письма для спамных рассылок. Дочитывая такой текст до конца катарсиса не случается, что-то прочитал… А зачем?
В эти тексты сложно углубиться. Я пытался писать свои и отдавать на аутсорс ИИ редактуру, получается очень гладкая каша, стройная по структуре и с выводами аж по каждому абзацу. Но по сути переваренное блюдо. В нем нет почерка и динамики автора.
Я мог бы поручить это ЧатЖПТ — перевести на русский и собрать «дайджест», «саммари». Или наоборот — собрать дайджест и перевести. На моём месте сейчас так поступил бы каждый.
Конечно, я этого делать не стал. Например, потому, что я сам в таком дайджесте увидел бы только то, что машина туда добавила, сочла важным — но не увидел бы того, что она выбросила, сочтя неважным. А отбрасывать — не менее важное и ответственное дело.
И это значит, между прочим, что при использовании суммаризатора вы даёте ваше согласие на то, что в голове не останется ничего, кроме этого машинного либретто, а также на то, что не будут нагружены нейроны в ходе чтения полного текста и не будут сформированы новые нервные связи. То есть делегирование ЧатЖПТ — это отказ от думания.
Э. Шмидт
Шмидт — один из главных управляющих ИТ-индустрией США, круче Маска и Гейтса, потому что гораздо более тесно связан с государством и принятием решений.
ИИ изначально имеет свою повестку, я сначала не верил что 50 000 индусов и негров сидят и работают асессорами (по сути тестировщиками ответов ИИ на любые промты), но убедился когда дал редактировать свой текст где были слова ЦРУ, ЛГБТ, и американская повестка. Он мягко убрал все эти слова и заменил их на очень пресную выжимку. Я повторил промт, он сделал тоже самое. А речь шла в моем тексте про то, что гугл контролирует ЦРУ, а Ютубчик делали как платформу для гражданской журналистики с определённым повестками по ЛГБТ, войне, американской мечте и т.д.
Вот и думай какое саммари он сделает для тебя по томику Достоевского. То которое одобрил индус с методичкой на 30 листов от Open AI и Пентагона?
У компании OpenAI в Нигерии и Индии сидит минимум 50 тысяч асессоров, которые получают «промпт», и пять вариантов ответа. И должны оценить эти ответы по шкале от «неприемлемо» до «великолепно».
Как они это делают? Откуда оценки?
И. Ашманов
Что касается Алисы, Маруси, Яндекс ЖПТ и прочих — весь движок цельнотянутый. Все оттуда и все отвечает плохо. Не знает историю, делает фактические ошибки и при запросе “нарисуй картину великой отечественной войны” показывает странных дядек с автоматами м-16 и с нашивками на форме явно не нашими. Т.е. база данных не по нашим хроникам.
В текстах тем более, то есть на выдаче стоит фильтр в который зашит определённый стиль, повестка, и он робот под нее подстраивается, на выходе — бредогенерация с душком.
Так нафига он нужен то этот ИИ? — Плодить фейки, и объем этих фейков будет зашкаливать, а те 11% людей (последняя статистика количества людей вчитывающихся в материалы в СМИ и соцсетях), которые ищут смысл и дочитывают до конца, на первое место все равно поставят живого автора и его честность.
Есть в обществе базовое предположение, что ИИ благо и удобно. Так и есть, удобно ничего не делать самому — вжух и презентация готова, вжух и кусок кода написан. Правда я тут читал про бэкдоры и дыры в этих кусках кода, программисты поправят так ли это.
Получается если мы серьёзные люди, а ведь все так про себя думают, нам бы оценивать риски и понять место этого ИИ. Оно нам вообще надо? Ну вот по честному зачем оно везде? Особенно в медийке и СМИ. Это же просто информационная грязь, которая пудрит мозги неокрепшим, все ТГ каналы этим завалили. Слпошные ИИ агитки и нелогичные тексты размывающее реальное событие тупым желтушным заголовком.
Я протестировал разные модели, и с разными промтами. Честно, все ниже среднего кроме задач по исправлению пунктуации и орфографии, а еще по оформлению типографики. У меня с пунктуацией плохо, поэтому отдаю Чат ЖПТ, а еще я ненавижу оформлять тексты, разметку делать, блоки разбивать, вот это и делегирую.
Да многие начнут выть: в SMM незаменим, письма пишет, темы даёт, ассистент по контенту, короче ты луддит Глеб Юрич. Мое мнение остается прежним, что кроме грязи данный инструмент в соцсети и маркетинг не принес ничего, а еще увеличил объем информационного мусора до небес. Откопать свое и своих в этом стало невозможно. Сказки про то что ты просто не умеешь писать промты я слышал, я писал просто размером с километр по системе аутлайнера, т.е. одним из лучших способов конспектирования построенным на логике и взаимосвязях, результат такой же, просто гладкий текст, читать его скучно и глаз соскальзывает.
ИИ нам нужен в науке, обороне, фармакологии, промышленности. Но не в социальной сфере, не для управления людьми в духе цифрового концлагеря. Мы сейчас находимся в пузыре ИИ, он точно лопнет, останутся полезные, но узкие применения. Так было с блокчейном, NFT, 3d телевизорами и прочими. Рыночек в этом случае порешал верно.
ИИ мощный навигатор. Сам я водитель, и опыт получал без этих устройств, их тогда еще не было. Это очень сложно знать весь город, постоянно путался в улицах и проездах, да и сейчас тоже бывает, но навигацию использую редко, чтобы найти совсем неизвестное место.
А как раньше ездили таксисты Лондона и Москвы? — Они знали все дороги и разъезды наизусть, строили маршрут в голове без Алисы. А сегодня некоренной москвич из средней Азии, без языка и знаний города способен работать на доставке сразу после выхода с вокзала — география стала информацией, а не опытом.
В завершении добавлю мои тезисы про ИИ после просмотра лекции одного православного психолога, его фамилия Боровских.
Космонавты в невесомости не борются с гравитацией. Но они тренируются постоянно, чтобы мышцы просто не атрофировались, именно поэтому нам сегодня тоже важно создавать интеллектуальные тренажеры, иначе мыслительный процесс большинства людей окажется в невесомости.
Жизнь заключается в работе “в поте лица”, но важно задуматься, является ли современный “пот” результатом умственной деятельности, или же это просто следствие бесконечных электронных запросов к поисковым системам и ИИ. Необходимо осознавать, прилагаем ли мы усилия при составлении этих запросов и делегировании задач нейронным сетям, или же просто бездумно ускоряемся, теряя глубину мышления.
Боярский Глеб Юрьевич @GlebBoyarskii — Telegram | VK
Обо мне:
Настройка Яндекс Директ, Таргет, Google (Yandex) Tag Manager, разработка Power BI и DataLens дашбордов, глубокая аналитика рекламных систем, комплексная веб-аналитика и performance-маркетинг.