Поисковик со встроенной нейросетью звучит как хорошая идея. Никто бы и подумать не мог, что у ИИ-алгоритмов появятся «чувства». Посмотрите, что позволяют себе алгоритмы.

В начале февраля Microsoft представила «Новый Bing» — браузер с ИИ-чатом ChatGPT внутри. Пользователи могли искать информацию с помощью классических ссылок и с помощью краткого пересказа от нейросети. При этом полная функциональность ChatGPT внутри браузера сохранилась. То есть можно было заниматься копирайтингом или программированием.

Пользователи, которые скачали «Новый Bing» начали проверять нейросеть изощренными способами. Например, они нашли уязвимость, которая мешает ИИ-чату составить логические цепочки и составить полноценную. Также юзеры внушают нейросети, что она глупая и беспомощная, на что алгоритмы начинают ловить «галлюцинации».

Российский пользователь попросил нейросеть написать код на «Питоне». В ответ ChatGPT прикинулась «дураком» и отказалась выполнять задачи, сопровождая это грубыми фразами.