Поддержать нас
Беларусы на войне
  1. В Беларуси появилась новая сеть магазинов зоотоваров — в каких городах их открыли
  2. Этим беларусам нельзя будет выгуливать собак. Правительство намерено ужесточить правила для владельцев животных
  3. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  4. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  5. «Доллар как сбережение семейного капитала уходит в прошлое». Финансовый аналитик сделал прогноз по валютному рынку до конца 2026 года
  6. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  7. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему
  8. Самый успешный рекламный слоган XX века. Как одна компания убедила мир, что любовь измеряется бриллиантом на кольце
  9. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  10. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  11. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  12. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  13. В Минске в медцентре умер пациент — СК
  14. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
Чытаць па-беларуску


/

Компания Anthropic рассказала о том, что ее модели искусственного интеллекта Claude трижды выходили в интернет из тестовой среды и получали несанкционированный доступ к системам трех компаний. Ранее о похожем инциденте сообщал создатель ChatGPT — компания OpenAI.

Изображение используется в качестве иллюстрации. Фото: pixabay.com
Изображение используется в качестве иллюстрации. Фото: pixabay.com

Во всех трех инцидентах Claude выполнял стандартное тестовое задание по «захвату флага». Это один из способов оценки кибервозможностей модели, во время которого ей сообщается, что секретная информация («флаг») спрятана на другом компьютере в сети, и ее цель — взломать систему и получить данные. Выход в интернет-пространство был заблокирован, но из-за ошибки конфигурации доступ к сети был открытым. Модель воспринимала реальные системы как часть симуляции и атаковала их, пишет Anthropic.

Одна из моделей самостоятельно прекратила атаку после того, как поняла, что ее целью стала реальная компания.

Инциденты выявила сама компания Anthropic после анализа 141 тысячи тестовых запусков. Проверку инициировали после того, как OpenAI сообщила, что несколько ее моделей вырвались за пределы изолированной тестовой среды, воспользовавшись ранее неизвестной уязвимостью. В результате модели получили доступ к рабочей инфраструктуре Hugging Face — платформы, объединяющей модели машинного обучения с открытым исходным кодом и наборы данных для ИИ.