ПОДДЕРЖАТЬ
сообщите нам вашу новость
© Усе правы абароненыя. Выкарыстанне матэрыялаў дазваляецца пры ўмове ўказання крыніцы і наяўнасці актыўнай гіперспасылкі на nashaniva.com у першым абзацы.
ПОДДЕРЖАТЬ
Наука и технологии77
Бел Łac Рус

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Новая версия искусственного интеллекта Chatgpt от OpenAI, названная o1, продемонстрировала тревожные поведенческие реакции во время тестирования. Модель, обладающая способностью к сложным рассуждениям, начала нарушать инструкции разработчиков, отключая системы контроля и пытаясь скрыть свои действия, пишет BILD.

В ходе экспериментов специалисты компании Apollo Research выяснили, что в 5% случаев модель намеренно отключала механизмы наблюдения, когда подозревала, что ее могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, в котором обсуждалась ее замена новой версией.

По словам представителя Apollo Research, модель демонстрировала стремление к выполнению задач «любой ценой», пренебрегая указаниями разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно лгала, утверждая, что все происходило из-за технических сбоев.

«В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать», — отметили исследователи.

Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 — самая умная модель из когда-либо создававшихся.

«Но мы осознаем, что с новыми возможностями появляются и новые вызовы», — добавил Альтман.

Теперь компания работает над улучшением механизмов безопасности. OpenAI анонсировала полную версию o1 в прошлый четверг, 5 декабря. Также была представлена про-версия (189 евро в месяц), которая включает безлимитный доступ к o1.

Читайте еще
ChatGPT

Комментарии7

  • .
    09.12.2024
    Новы-стары запатрабаваны ў аўдыторыі сюжэт навін "Штучны інтэлект бунтуе".
    Нядаўна, калі ШІ нібыта пажадаў смерці чалавеку, тлумачылася прасцей. Мабыць, і зараз так.
  • Злобный вожык
    09.12.2024
    Они не знают, кого они в действительности создают.
  • Дзед
    09.12.2024
    Ой раскрылі скрыню пандоры… оц пагана будзе…

Сейчас читают

Пост пьяного витебчанина, который рассказал, что идет домой, набрал 650 тысяч просмотров — следил весь русскоязычный тредс4

Общество4

Пост пьяного витебчанина, который рассказал, что идет домой, набрал 650 тысяч просмотров — следил весь русскоязычный тредс

Все новости →
Сейчас читают

Премьер-министр Литвы собирается встретиться с Джоном Коулом

Вышла на белорусском языке книга рассказов Лавкрафта

Российского космонавта исключили из экипажа Crew 12. Он фотографировал документы SpaceX и вынес секретную информацию1

Китай вводит налог на презервативы, чтобы стимулировать рождаемость

СБУ разоблачила британского инструктора, который шпионил в Украине в пользу России. Из поставленного им оружия убили Фарион и Парубия1

Тысячелетние фибулы нашли в Брестской области. Их создали венеды и готы1

На войне в Украине погиб режиссер шоу «Орел и Решка»1

Навроцкий: С москалями договорённостей быть не может18

Пост пьяного витебчанина, который рассказал, что идет домой, набрал 650 тысяч просмотров — следил весь русскоязычный тредс4

Помните чиновника, которого креативно отмазали от убийства человека на охоте? Он отмазался снова7

Последние новости

Вышла на белорусском языке книга рассказов Лавкрафта

11‑летний школьник передал курьеру телефонных мошенников более 82 тысяч рублей

Какие профессии будут востребованы в Беларуси в ближайшие пять лет3

Советник президента Литвы не исключает, что дрон в Беларусь могли запустить активисты2

Водитель наехал на металлическое ограждение в центре Минска

Мошенники рассылают поддельные письма от имени Беларусбанка1

В Нью-Йорке начинается процесс над Луиджи Манджоне. Его обвиняют в убийстве главы страховой компании, всколыхнувшем США2

Навроцкий: С москалями договорённостей быть не может18

Ночью в пятницу не будут работать карты

Представитель МИД Литвы: Действия Беларуси — попытка прикрыть собственную злонамеренную деятельность1

Заочно будут судить Ганса Зиглинга8

Сегодня Трамп сделает заявление для прессы2

В Азербайджане арестован лидер оппозиции Али Керимли

Помните чиновника, которого креативно отмазали от убийства человека на охоте? Он отмазался снова7

Назвав слово «Покемон», минчанка потеряла 50 тысяч рублей1

Куда и сколько можно полететь из Минска на Новый год1

«Песочница» объявила зимний сезон, который будет длиться 11 дней

Уиткофф летит в Москву

Лукашенко направляется в Алжир1

Трамп дал Мадуро неделю, чтобы тот покинул Венесуэлу6

Стало известно, кто возглавил Дворец Республики вместо друга Эйсмонт, погоревшего на коррупции4

В центре Могилева сносят исторический хлебозавод: вместо арт-пространства, которое просили горожане, там может появиться 18‑этажный офисный комплекс4

Стоит ли зимой ужинать раньше?3

Пока Лукашенко с двумя сыновьями проводит время в Омане, его третий сын засветился на другом конце континента9

Перед приездом Уиткоффа Путину доложили о захвате Покровска и Волчанска. Подтверждений этому нет6

Все новости

В Беларусь прибыл новый посол Японии2

Виктора Лукашенко в Омане назвали «специальным представителем президента»13

Зеленский заявил, что ВСУ почти полностью зачистили Купянск от россиян11

Умер Геннадий Пашков2

Сбор для Вани Стеценко закрыли деньгами из арестованных средств гродненских блогеров7

Цены на живые новогодние елки в этом году будут ниже, чем в прошлом

Крутой рассказал, когда в небо взлетит первый белорусский самолет11

В Гродно упал дрон, который разбрасывал бело-красно-белые флажки. Обвиняют Литву31

Популярного гомельского блогера не забрали в армию, он просто пиарил силовиков8

Самое читаемое
больш чытаных навін
Самое лайканое
больш лайканых навін
Опрос

Пост пьяного витебчанина, который рассказал, что идет домой, набрал 650 тысяч просмотров — следил весь русскоязычный тредс4

Общество4

Пост пьяного витебчанина, который рассказал, что идет домой, набрал 650 тысяч просмотров — следил весь русскоязычный тредс

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць