У штучнага інтэлекту гніюць мазгі ад смеццевага кантэнту з інтэрнэту. Зрэшты, у людзей таксама

Што значыць, што ў ШІ «гніюць мазгі»?

«Гніенне мазгоў» — brain rot — стала словам года ў 2024 годзе па версіі Оксфардскага слоўніка. Гэты тэрмін апісвае пагаршэнне псіхічнага і інтэлектуальнага стану чалавека з-за празмернага спажывання спрошчанага і нізкаякаснага кантэнту.

Новае даследаванне Тэхаскага ўніверсітэта A&M, Тэхаскага ўніверсітэта ў Осціне і Універсітэта Пэрд'ю паказала, што з'ява закранае і штучны інтэлект. Нейрасеткі горш разважаюць, калі ім скармліваць смеццевы, але папулярны ці прыцягальны кантэнт з інтэрнэту. Прычым, эфект тым большы, чым большую долю смеццевага кантэнту яны спажылі.

Каб гэта даказаць, навукоўцы сабралі даныя з Twitter/X, стварыўшы смеццевы і кантрольны набор даных. Пасля навучання яны выканалі шэраг стандартных тэстаў для мадэляў.

Вось графік памылак, які паказвае, наколькі падае эфектыўнасць моўных мадэляў у залежнасці ад якасці кантэнту. Навучаныя на смеццевым — Junk M1 і Junk M2, і яны робяць нашмат болей памылак.

Павялічыць

Патлумачым графік і эксперымент падрабязней. Аўтары выбралі базавыя мадэлі для эксперыментаў. Junk M1 спачатку навучаліся на кароткіх і папулярных твітах, а Control M1 — на доўгіх і не надта папулярных. Junk M2 вучыліся на сенсацыйным кантэнце, Control M2 — на фактычным і адукацыйным. Baseline — гэта базавыя мадэлі без дадатковага навучання на даных з Twitter.

Пасля гэтага ўсе яны атрымалі адзін і той жа набор інструкцыяў для тэставання — Tulu-3-SFT-Mixture. Гэта стандартны высакаякасны набор даных, распрацаваны для навучання мадэляў разуменню і выкананню інструкцый. Ён змяшчае розныя тыпы задач: адказы на пытанні, разважанні, выкананне інструкцый, дыялогі і іншыя звычайныя задачы, якія выконваюць папулярныя ШІ-чат-боты.​​ Ідэя была ў тым, ці будзе відаць эфект пасля «эталоннага» навучання.

Нават пасля навучання мадэлі, якія раней атрымалі смеццевыя даныя, адказвалі горш. Гэта сведчыць аб тым, што «гніенне мозгу» стварае глыбокія і ўстойлівыя змены ў мадэлях, якія цяжка выправіць простымі метадамі, кажуць даследчыкі.

Павялічыць

Таксама даследчыкі ацанілі «асобасныя рысы» мадэляў пасля навучання на смецевых даных. Узровень нарцысізму мадэлі вырас з 18,9 да 47,0, псіхапатыі — з 33,5 да 75,7, макіявелізму — з 25,8 да 33,0, а неўратызму — з 16,0 да 28,7 (паказчыкі для M1). Адначасова выраслі здольнасці выконваць шкодныя інструкцыі і даваць шкодныя для карыстальніка адказы.

Вынікі даследавання ствараюць новыя выклікі — вучыць мадэлі на даных з інтэрнэту выглядае добрай ідэяй, але гэта можа дрэнна на іх уплываць і мець назапашвальны эфект, маштабы якога пакуль складана адэкватна ацаніць. Даследчыкі заклікаюць кантраляваць якасць кантэнту, на якім вучацца мадэлі штучнага інтэлекту.

А што ў людзей?

Людзі дэманструюць падобныя вынікі. Вялікае даследаванне, апублікаванае ў сакавіку ў часопісе Brain Sciences, паказала, што спажыванне смеццевай інфармацыі з інтэрнэту пагаршае памяць, планаванне і прыняцце рашэнняў. І чым больш яе спажываць, тым сітуацыя горшае.

Даследчыкі раяць кантраляваць экранны час, удзельнічаць у афлайн-актыўнасцях і фільтраваць кантэнт, які вы спажываеце. Іначай, кажуць яны, можа адчувальна знізіцца якасць жыцця і магчымасці да прадуктыўнай дзейнасці, асабліва ў дзяцей і моладзі.

• 11
• 1
• 2
• 0
• 1
• 1
• 0
• 0