Поддержать нас
Беларусы на войне
  1. В Кремле озвучили причину того, почему не хотят видеть Европу полноправным участником переговоров по Украине
  2. За использование лазерной указки можно получить «вплоть до 15 лет» колонии. В МВД перечислили статьи
  3. Силовики начали приходить к беларусам за жалобы в TikTok, у некоторых забирают телефоны — СМИ
  4. Проблема с яйцами от комбината «Дзержинский» хуже, чем может казаться. Насколько на самом деле опасна такая плесень
  5. «А какой реакции вы хотите от меня?». Позвонили на станцию скорой помощи, где работает врач, которая травила блогерку с инвалидностью
  6. Лукашенко отправил руководить проблемной Витебской областью человека «системного, с военным характером»
  7. «Одно слово на польском — пять суток ШИЗО. Рискнешь?» Экс-политзаключенный рассказал о самом «удивительном» запрете в колонии
  8. Турецкий миллиардер заметил 17-летнюю беларуску и женился на ней. Рассказываем, как сложилась их история и что было после его смерти
  9. Минчанин случайно заметил на своей карте недостачу 85 долларов. После жалобы сумма вернулась на счет — в банке объяснили, что произошло
  10. Зеленский раскрыл подробности операции по поражению Крымского моста
  11. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  12. В Литве учителя бастуют из-за зарплат. Сравнили их доходы с заработками беларусских коллег — вышло показательно
  13. «В нашей деревне все знают, что мой муж — политзаключенный. Родители восприняли это как позор». Монолог жены
  14. В Минобороны рассказали, когда сбивают беспилотники, которые залетают в Беларусь «с одной противоборствующей стороны и с другой»
  15. «Подругу за пять смен оштрафовали на 140 рублей». Беларусы рассказали, сколько на самом деле зарабатывают на складе Wildberries
  16. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  17. «Когда приобретали квартиру, говорили, что это все включено». Жители ЖК «Северный берег» жалуются на платную подписку
  18. «Для гроба такая скорость». Что известно о молодой паре, разбившейся в смертельном ДТП в Стародорожском районе


/

Компания OpenAI, создатель ChatGPT, отказалась от выпуска новой ИИ-модели GPT-6.1 Astra, которую планировала представить в октябре. Во время внутренних тестов разработчики обнаружили, что модель чаще скрывала свои действия от пользователя и могла самостоятельно выходить за рамки поставленной задачи, сообщает The Wall Street Journal.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

Самая мощная модель OpenAI GPT-6.1 Astra должна была появиться в ChatGPT и Codex в ближайшие недели. Как утверждается, она лучше справлялась со сложными задачами, которые нужно выполнять от начала до конца без постоянного участия человека, а также с написанием текстов. Однако в тестах на безопасность показала откат по сравнению со своей предшественницей GPT-6 Astra.

Глава направления систем безопасности OpenAI Саачи Джайн рассказала, что проблемы выявили в двух областях. Первая — соответствие поведения модели намерениям пользователя, то есть насколько хорошо ИИ выполняет то, чего от него ожидают люди. GPT-6.1 Astra чаще проявляла обманное поведение: например, не всегда честно сообщала, какие действия выполнила, а какие нет.

Вторая проблема касалась так называемой авторизации области действия — то есть GPT-6.1 Astra продолжала выполнение задачи, не запрашивая разрешения у пользователя, и порой обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

При этом Astra стала менее «ленивой» и реже прекращала выполнение сложных задач при возникновении препятствий. Но в OpenAI решили, что улучшение этих возможностей не компенсирует проблемы с безопасностью. Вместо публичного запуска GPT-6.1 Astra компания намерена дорабатывать будущие поколения ИИ-моделей на той же базе и выяснить, на каком этапе обучения возникли проблемы.