OpenAI разработала новый метод под названием «Иерархия инструкций» для повышения безопасности своих больших языковых моделей (LLM). Этот метод, впервые применённый в новой модели GPT-4o Mini, направлен на предотвращение нежелательного поведения ИИ, вызванного манипуляциями недобросовестных пользователей с помощью определённых команд. Источник изображения: Copilot Руководитель платформы API в OpenAI Оливье Годеман (Olivier Godement) объяснил, что «иерархия инструкций» […]
Архивы за день Август 5th, 2024
OpenAI повысит безопасность своих ИИ-моделей с помощью «иерархии инструкций»
Август 5th, 2024 
raven000 
Опубликовано в рубрике 
