У штучнага інтэлекту гніюць мазгі ад смеццевага кантэнту з інтэрнэту. Зрэшты, у людзей таксама

Эксперыменты паказалі, што спажыванне няякаснага кантэнту негатыўна ўплывае на здольнасць штучнага інтэлекту разважаць і даваць адэкватныя адказы. Прычым пасля іх даволі складана перавучыць. Падобна, што ў гэтым ШІ падобны да людзей, але як ратаваць людзей прынамсі зразумела.

Выява згенераваная з дапамогай Perplexity AI

Што значыць, што ў ШІ «гніюць мазгі»?

«Гніенне мазгоў» — brain rot — стала словам года ў 2024 годзе па версіі Оксфардскага слоўніка. Гэты тэрмін апісвае пагаршэнне псіхічнага і інтэлектуальнага стану чалавека з-за празмернага спажывання спрошчанага і нізкаякаснага кантэнту.

Новае даследаванне Тэхаскага ўніверсітэта A&M, Тэхаскага ўніверсітэта ў Осціне і Універсітэта Пэрд'ю паказала, што з'ява закранае і штучны інтэлект. Нейрасеткі горш разважаюць, калі ім скармліваць смеццевы, але папулярны ці прыцягальны кантэнт з інтэрнэту. Прычым, эфект тым большы, чым большую долю смеццевага кантэнту яны спажылі.

Каб гэта даказаць, навукоўцы сабралі даныя з Twitter/X, стварыўшы смеццевы і кантрольны набор даных. Пасля навучання яны выканалі шэраг стандартных тэстаў для мадэляў.

Вось графік памылак, які паказвае, наколькі падае эфектыўнасць моўных мадэляў у залежнасці ад якасці кантэнту. Навучаныя на смеццевым — Junk M1 і Junk M2, і яны робяць нашмат болей памылак.

Failure Mode Bar Plot. Xing et al. 2025, LLMs Can Get Brain Rot, ліцэнзавана па CC BY-SA 4.0

Патлумачым графік і эксперымент падрабязней. Аўтары выбралі базавыя мадэлі для эксперыментаў. Junk M1 спачатку навучаліся на кароткіх і папулярных твітах, а Control M1 — на доўгіх і не надта папулярных. Junk M2 вучыліся на сенсацыйным кантэнце, Control M2 — на фактычным і адукацыйным. Baseline — гэта базавыя мадэлі без дадатковага навучання на даных з Twitter.

Пасля гэтага ўсе яны атрымалі адзін і той жа набор інструкцыяў для тэставання — Tulu-3-SFT-Mixture. Гэта стандартны высакаякасны набор даных, распрацаваны для навучання мадэляў разуменню і выкананню інструкцый. Ён змяшчае розныя тыпы задач: адказы на пытанні, разважанні, выкананне інструкцый, дыялогі і іншыя звычайныя задачы, якія выконваюць папулярныя ШІ-чат-боты.​​ Ідэя была ў тым, ці будзе відаць эфект пасля «эталоннага» навучання.

Нават пасля навучання мадэлі, якія раней атрымалі смеццевыя даныя, адказвалі горш. Гэта сведчыць аб тым, што «гніенне мозгу» стварае глыбокія і ўстойлівыя змены ў мадэлях, якія цяжка выправіць простымі метадамі, кажуць даследчыкі.

Злева графік, які дадаткова спрабавалі выправіць высакаякаснымі данымі, справа навучаны на смеццевых даных без такой спробы. Эталонныя значэнні паказаныя пункцірнымі лініямі. «Wash Out Scaling». Xing et al. 2025, LLMs Can Get Brain Rot, ліцэнзавана па CC BY-SA 4.0

Таксама даследчыкі ацанілі «асобасныя рысы» мадэляў пасля навучання на смецевых даных. Узровень нарцысізму мадэлі вырас з 18,9 да 47,0, псіхапатыі — з 33,5 да 75,7, макіявелізму — з 25,8 да 33,0, а неўратызму — з 16,0 да 28,7 (паказчыкі для M1). Адначасова выраслі здольнасці выконваць шкодныя інструкцыі і даваць шкодныя для карыстальніка адказы.

Вынікі даследавання ствараюць новыя выклікі — вучыць мадэлі на даных з інтэрнэту выглядае добрай ідэяй, але гэта можа дрэнна на іх уплываць і мець назапашвальны эфект, маштабы якога пакуль складана адэкватна ацаніць. Даследчыкі заклікаюць кантраляваць якасць кантэнту, на якім вучацца мадэлі штучнага інтэлекту.

А што ў людзей?

Людзі дэманструюць падобныя вынікі. Вялікае даследаванне, апублікаванае ў сакавіку ў часопісе Brain Sciences, паказала, што спажыванне смеццевай інфармацыі з інтэрнэту пагаршае памяць, планаванне і прыняцце рашэнняў. І чым больш яе спажываць, тым сітуацыя горшае.

Даследчыкі раяць кантраляваць экранны час, удзельнічаць у афлайн-актыўнасцях і фільтраваць кантэнт, які вы спажываеце. Іначай, кажуць яны, можа адчувальна знізіцца якасць жыцця і магчымасці да прадуктыўнай дзейнасці, асабліва ў дзяцей і моладзі.

Каментары да артыкула