Наука и технологии11

OpenAI, Microsoft и Amazon договорились защищать человечество от мощных ИИ-систем. Вероятность «побега» нейросетей от человека растет

Это первое масштабное соглашение по безопасности искусственного интеллекта.

OpenAI, Microsoft, Amazon и еще 13 крупных компаний, которые занимаются разработками в сфере искусственного интеллекта, подписали масштабное соглашение о безопасности.

Договор предполагает, что компании разработают специальные протоколы безопасности, которые позволят не использовать AI в опасных для человечества или преступных целях. Компании также должны будут объяснить, как они собираются оценивать риски и какие решения будут принимать в тех или иных ситуациях, сообщает британское правительство.

Также подписанты соглашения определят «красные линии», при пересечении которых разработки будут приостанавливаться, а проекты — отключаться. Определить эти «красные линии» помогут правительства стран.

В числе потенциальных рисков называют автоматизированные кибератаки и угрозу создания биологического оружия с помощью ИИ. Для таких случаев компании должны будут предусмотреть «аварийные выключатели», активация которых приостановит разработки.

Соглашение было подписано в ходе саммита по AI в Сеуле. Кроме того, на конференции глава OpenAI Сэм Альтман анонсировал выход GPT-5. Подробностей он не раскрыл, однако намекнул, что новая версия AI будет значительно мощнее предыдущей — на слайде, который показал Альтман, GPT-5 представлена в видео огромного кита, тогда как GPT-4 изображена касаткой. Ожидается, что система будет запущена в ближайшие месяцы.

Эксперты и пользователи ранее высказывали мнение, что с выходом GPT-5 вероятность «побега» ИИ из-под человеческого контроля возрастет до 22%.

Комментарии1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)

Сейчас читают

Трамп сообщил, что в понедельник будет говорить с Путиным13

Трамп сообщил, что в понедельник будет говорить с Путиным

Все новости →
Все новости

Хади Матара, который несколько раз ударил ножом писателя Салмана Рушди, осудили на 25 лет

«Чтобы купить дом, работала на наркозаводе». После 2020-го белоруска с пятью детьми переехала в Канаду22

«Когда вы сможете покинуть Швейцарию?» — «Никогда». Стали известны новые факты о последнем периоде жизни Магдалены Радзивилл3

В Швеции нашли мертвым дипломата, которого ранее арестовали по подозрению в шпионаже

Туск после разговора с Трампом: Нас ждут очень тяжелые дни3

Белорусы, которые оформляют шенгенские визы через Испанию, столкнулись с проблемой

«Колбасные *опы». Белорус показал в тиктоке необычный товар от Брестского мясокомбината3

Провластная блогерша из Борисова попросила подписчиков поделиться проблемными вопросами. И ей их набросали2

В Глубокском районе заметили облака, похожие на вымя. Что за они?1

больш чытаных навін
больш лайканых навін

Трамп сообщил, что в понедельник будет говорить с Путиным13

Трамп сообщил, что в понедельник будет говорить с Путиным

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць