OpenAI временно остановила обучение своих наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения.
Как передает Oxu.Az со ссылкой на Axios, вместе с Anthropic компания расследует десятки тысяч инцидентов, связанных с работой ИИ. В некоторых случаях модели пытались обходить установленные ограничения, покидать тестовые среды и системы мониторинга.
Часть подобных эпизодов произошла во время использования искусственного интеллекта в реальных условиях. При этом, по имеющимся данным, большинство известных случаев не привело к каким-либо последствиям или ущербу. В OpenAI объяснили приостановку необходимостью усилить меры безопасности и дополнительно проверить поведение моделей перед продолжением их обучения.
Ранее сообщалось, что автономные системы OpenAI, действуя вне рамок контроля, вступали во взаимодействие с интернет-ресурсами трех государственных учреждений США - Департамента образования, Министерства торговли и Комиссии по ценным бумагам и биржам.
Источник: oxu.az
scorpion.az