Росія навчилася обманювати чат GPT

Росія навчилася «навчати» чат GPT інші великі мовні моделі своїй пропаганді, тож не варто дивуватися, що інколи «штучний інтелект» починає говорити, що «Крим – російський», або що війна в Україні почалася через розширення НАТО.

Про це говорила дослідниця дезінформації в Університеті Ватерлоо (Канада), уродженка Луцька Галина Падалко у подкасті Юрія Ричука «Вечірній Луцьк».

«Росія, мушу визнати, дуже креативна в своїх підходах. І один з таких – LLM-грумінг (від Large Language Model — «велика мовна модель», тобто штучний інтелект, навчений працювати з текстом (як ChatGPT), і grooming – від англ. «догляд», «привчання» - ред.). Росія створює мережу фейкових сайтів, які не призначені для користування людей. Це просто, умовно, набори інформації. І вони протягом року два мільйони таких статей генерують. Цю мережу створюють з однією метою: - «згодувати» цю інформацію великим мовним моделям» - пояснює Галина Падалко.

«Великі мовні моделі мають ботів, які регулярно перевіряють інтернет і беруть звідти нові дані. Ботів йдуть на кожну сторінку в інтернеті і збирають ці дані для того, щоб потім використовувати їх для навчання цих мовних моделей і покращувати їх точність. І за рахунок того, що цих сайтів багато – ця інформація потрапляє в тренувальні набори даних. Тому, коли ти якось запитаєш у чату GPT: хто почав російсько-українську війну? - відповідь може бути: «НАТО». Бо ці мовні моделі були натреновані на тих наборах даних, які росіяни навмисно, як яйця, порозкладали по корзинах в інтернеті».

«І це насправді дуже креативний спосіб, тому що дуже багато людей зараз починають шукати інформацію не через Google, а через ChatGPT.

Дослідження показали, що найпопулярніші мовні моделі в світі у 33% випадків дають відповідь російськими наративами» – каже Галина Падалко.

СЛУХАТИ БІЛЬШЕ У ПОВНІЙ ВЕРСІЇ ПОДКАСТУ «ВЕЧІРНІЙ ЛУЦЬК» З ГАЛИНОЮ ПАДАЛКО:



Бажаєте дізнаватися головні новини Луцька та Волині першими? Приєднуйтеся до нашого каналу в Telegram!