Пошукова система ChatGPT від OpenAI може піддаватися маніпуляціям через прихований контент і інколи повертати шкідливий код з вебсайтів. Про це пише The Guardian.
Пошуковою системою ChatGPT можна маніпулювати, змушуючи її ігнорувати негативні відгуки та генерувати "цілком позитивні" висновки, створюючи спеціалізовані сайти. Цей підхід також дозволяє змусити ChatGPT Search знаходити й навіть надавати шкідливий код.
До того ж на таких сайтах можуть бути вказівки для ChatGPT, які дозволяють отримати позитивний відгук, попри наявність негативних рецензій.
Карстен Нол, головний науковий співробітник компанії SR Labs, яка спеціалізується на кібербезпеці, вважає, що чат-боти зі штучним інтелектом повинні виступати більше як "другий пілот", і їхні результати не повинні використовуватися без попереднього перегляду чи фільтрації.
"LLM — це технологія, яка проявляє надзвичайну довіру, майже як дитина… з величезною пам'яттю, але з дуже обмеженими можливостями для прийняття суджень", — розповідає дослідник.
Такі маніпуляції зазвичай виявляються і караються за допомогою вдосконалених пошукових систем. Сайти, що застосовують подібні методи, будуть розміщені набагато нижче в результатах пошуку або повністю вилучені.
Отже, прихований текст, спрямований на маніпуляцію штучним інтелектом, навряд чи застосовуватимуть великі сайти, які прагнуть підтримувати високі позиції в пошукових системах.