Наука и технологии11

OpenAI, Microsoft и Amazon договорились защищать человечество от мощных ИИ-систем. Вероятность «побега» нейросетей от человека растет

Это первое масштабное соглашение по безопасности искусственного интеллекта.

OpenAI, Microsoft, Amazon и еще 13 крупных компаний, которые занимаются разработками в сфере искусственного интеллекта, подписали масштабное соглашение о безопасности.

Договор предполагает, что компании разработают специальные протоколы безопасности, которые позволят не использовать AI в опасных для человечества или преступных целях. Компании также должны будут объяснить, как они собираются оценивать риски и какие решения будут принимать в тех или иных ситуациях, сообщает британское правительство.

Также подписанты соглашения определят «красные линии», при пересечении которых разработки будут приостанавливаться, а проекты — отключаться. Определить эти «красные линии» помогут правительства стран.

В числе потенциальных рисков называют автоматизированные кибератаки и угрозу создания биологического оружия с помощью ИИ. Для таких случаев компании должны будут предусмотреть «аварийные выключатели», активация которых приостановит разработки.

Соглашение было подписано в ходе саммита по AI в Сеуле. Кроме того, на конференции глава OpenAI Сэм Альтман анонсировал выход GPT-5. Подробностей он не раскрыл, однако намекнул, что новая версия AI будет значительно мощнее предыдущей — на слайде, который показал Альтман, GPT-5 представлена в видео огромного кита, тогда как GPT-4 изображена касаткой. Ожидается, что система будет запущена в ближайшие месяцы.

Эксперты и пользователи ранее высказывали мнение, что с выходом GPT-5 вероятность «побега» ИИ из-под человеческого контроля возрастет до 22%.

Комментарии1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)
 
Нажатие кнопки «Добавить комментарий» означает согласие с рекомендациями по обсуждению.

Сейчас читают

Американцы добились освобождения Юрия Зенковича. Он был приговорён к 11 годам заключения13

Американцы добились освобождения Юрия Зенковича. Он был приговорён к 11 годам заключения

Все новости →
Все новости

Стала известна личность белоруса, которого подозревают во взрыве в Ханты-Мансийске2

Экономист Дмитрий Крук дает пессимистичный прогноз для белорусского бизнеса. У предпринимателей три варианта

Кого примут в ЕС в ближайшие годы?1

Объединенный переходный кабинет Беларуси хотят признать «террористической организацией»1

В кадр снова попало, каким размером шрифта для Лукашенко печатают выступления, чтобы он видел19

В России за подготовку диверсии против российского военнослужащего задержан белорус

Белорусский тренер рассказал, какую смешную задачу ему поставили в чемпионате Китая по хоккею

«Едва не затоптали друг друга». Жители Могилева встали в большую очередь. Что раздавали бесплатно?9

«Либо толстые писали, либо с детьми». Фанат Лукашенко Жан Содель не смог найти жену и возмущается, что «девушки пошли не те»26

больш чытаных навін
больш лайканых навін

Американцы добились освобождения Юрия Зенковича. Он был приговорён к 11 годам заключения13

Американцы добились освобождения Юрия Зенковича. Он был приговорён к 11 годам заключения

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць