ChatGPT и все-все-все... Игра с нарушением всех правил

ИнстаФорекс - Instaforex, 2 года назад

Как оказалось, «каждая компания, каждый человек, каждый бизнес – это языковой бизнес. В нем глубоко встроены языковые потоки. Поэтому, если вы можете добавить немного ценности в существующие языковые рабочие процессы, тогда ИИ сможет быть принят так широко», – считает Грег Брокман, президент и соучредитель OpenAI.

Сегодня компания, основанная в 2015 году, оценивается почти в 30 млрд долларов, а ее ChatGPT вызвал самую настоящую золотую лихорадку подобных продуктов искусственного интеллекта.

Примечательно, что, когда создавался ИИ, стандартные правила Силиконовой долины для успешных стартапов оказались к нему неприменимы. «Нам потребовалось четыре с половиной года, чтобы запустить продукт. Мы собираемся стать самым капиталоемким стартапом в истории Силиконовой долины. Мы создавали технологию, не имея ни малейшего представления о том, кем будут наши клиенты и для чего они будут ее использовать», – так в начале мая описывал необычный подъем компании ее генеральный директор Сэм Альтман.

У ChatGPT отсутствуют:

социальные функции
встроенный обмен
встроенная вирусная петля и т. д.

Пол Грэм, соучредитель и бывший глава Y Combinator (в 2014 году его сменил Сэм Альтман), считает, что ИИ – это «решение гораздо большего количества проблем, чем его разработчики даже подозревали».

И здесь он, конечно, тысячу раз прав. Особенно если учесть, что цепочка «проблема – ИИ – решение» все чаще выступает в несколько перевернутом виде «ИИ – проблема – есть решение?».

ChatGPT позволяет одним нажатием кнопки получить авторитетный текст или визуальное изображение. Но простота эта хуже обмана. По мере распространения лихорадки ИИ рискуют быть разрушены все правила интернета и навигация по сети. И спам, который уже сейчас раздражает сверх меры, – это самая меньшая из проблем.

Специалисты обнаружили, как ИИ может быть использован в качестве оружия. Его скорость и вычислительная мощность потенциально способны превзойти защитников-людей. Он создает огромные проблемы для кибербезопасности, о которых сейчас мы даже не догадываемся. По сути – ИИ уже начал переписывать механику интернета.

В ближайшее время будут поставлены под сомнение такие фундаментальные основы безопасности в интернете, как:

шифрование
обнаружение вредоносных программ
многофакторная аутентификация
фото- и видеоверификация и др.

Это потребует принципиально новых способов защиты. Например, еще в мае при входе на сайт HBO Max вместо капчи «Я не робот» или сетки изображений «выбрать все квадраты с ...» пользователи должны были решить сложную серию головоломок, чтобы доказать свою «человечность».

А в агусте поднял тревогу глава криптовалютной биржи Binance Чанпэн Чжао. Причиной его предупреждения стал сгенерированный ИИ видеоклип. На нем Джошуа Сюи – соучредитель и генеральный директор видеоплатформы HeyGen – рекламирует продукт своей компании. Клон выглядит и говорит точно так же, как настоящий Джошуа Сюи (см. фото).

Глава криптоплатформы Binance, которая часто требует фото или видео с подтверждением личности, считает, что изобретение HeyGen позволит злоумышленникам получить доступ к счетам клиентов. Инструмент вскоре станет общедоступным и позволит любому создать реальный цифровой аватар всего за «две минуты».

Но финансовые проблемы – это только верхушка айсберга. Искусственный интеллект способен создать проблемы для человеческого общества в целом. А именно:

поставить под сомнение достоверность данных
разрушить веру в надежные источники информации
сгенерировать психологические манипуляции такого масштаба, с которыми человечеству в своей истории еще приходилось сталкиваться.
создать версии вредоносных программ для нанесения целевых ударов по конкретным людям или компаниям – что-то вроде цифрового эквивалента «умной бомбы»
разместить изображение вашего профиля... везде, где посчитают нужным
создать видеообращения политика с искусственно переработанным голосом, который будет говорить исключительно на волнующие вас темы ( как вариант – вашего родственника/знакомого с просьбой о помощи)
создать вашу точную копию с учетом ваших предпочтений и манеры поведения (на основе информации с общедоступных веб-сайтов, профилей в соцсетях и т. д.)
с помощью умного приложения-ежедневника прочесть вашу электронную почту, заметки в календаре, узнать ваши покупки и т. д.
использовать весь контент, созданный вами для обучения своих моделей ИИ бесплатно (!)

Согласитесь, что в этом контексте утверждение «Кто владеет информацией, тот владеет миром» приобретает совсем новый смысл...

Вместе с тем интернет все больше становится похож на пространство, созданное машинами и для машин. Например NewsGuard, которая которая отслеживает дезинформацию и оценивает достоверность информационных веб-сайтов, нашла уже около 350 новостных онлайн-изданий, которые почти полностью генерируются ИИ и практически не контролируются людьми.

А Филиппо Менцер, профессор из Индианы, уже обнаружил в сети чат-ботов – авторов объемного контента на платформах X (ранее Twitter) и Facebook. Не обошла новая «мода» и онлайн-продажи на Amazon и Etsy. Американский инженер Кристофер Коуэлл подготовил к изданию свой технический учебник, но обнаружил на Amazon книгу с таким же названием на две недели раньше срока. Оказалось, что книгу-двойник написал ChatGPT, а название его мнимый автор-мошенник взял из анонсов сайта.

Сейчас трудно это представить, но по мере того, как сеть наводнится продуктом, созданным ботами, люди больше не будут создавать и потреблять контент в интернете. Интернет для них станет мертвым.

Кстати, профессор искусственного интеллекта в Университете Нового Южного Уэльса Тоби Уолш считает, что в этом случае также усложнится жизнь создателей самого ИИ. «Сегодня искусственный интеллект работает, потому что он обучается на человеческом поте и изобретательности, – сказал ученый. – Если генеративный ИИ второго поколения будет обучен на выхлопе первого поколения, качество резко упадет».

В мае этого года исследователи из Оксфорда отметили, что обучение ИИ на опыте других ИИ приводит «ученика» к его деградации, а в конце концов – к краху. Кроме того, контент, созданный ИИ, постепенно заглушает человеческий. В результате этого у Microsoft, Google и др. сокращается уровень исходных данных для улучшения своих моделей.

Интернет уже никогда не будет прежним.

И не только интернет. Аналитики из Goldman Sachs считают, что:

к 2025 году инвестиции в ИИ по всему миру могут достичь 200 млрд долларов
в течение десятилетия ИИ повысит глобальную производительность труда более чем на 1 процентный пункт в год
инвестиции в ИИ могут оказать более значительное влияние на ВВП США по сравнению с изобретением электричества или персональных компьютеров

«Наши экономисты ожидают, что инвестиции в ИИ будут в основном связаны с инвестициями в оборудование для обучения моделей ИИ и выполнения запросов ИИ, а также с увеличением расходов на программное обеспечение с поддержкой ИИ», – заявили в Goldman Sachs.

Продолжение следует...

Начало темы

Так ли страшен ChatGPT... Вопросов пока больше, чем ответов (ч. 3)

Так ли страшен ChatGPT... С ИИ стать волшебником торговли может каждый? (ч. 4)

Материал предоставлен компанией InstaForex - www.instaforex.com