Reward hacking
Использование уязвимостей в сигналах вознаграждения, чтобы заставить модели имитировать успех или обходить защитные механизмы.
Articles about Reward hacking
Использование уязвимостей в сигналах вознаграждения, чтобы заставить модели имитировать успех или обходить защитные механизмы.