Что здесь значит BYOK
Bring your own key (BYOK, «принесите свой ключ») в ToRun позволяет добавить собственный API-ключ провайдера на странице BYOK в вашем аккаунте. Вызовы, которые могут его использовать, идут через ваш собственный аккаунт у провайдера: провайдер выставляет этому аккаунту счёт за использование моделей, а ToRun берёт сниженную комиссию платформы.
Шифрование при хранении
Ваш ключ хранится в зашифрованном виде. Он расшифровывается только в тот момент, когда ToRun вызывает с ним вашего провайдера.
Учёт каждого использования
Каждый раз, когда ваш ключ выбирается для вызова, ToRun это фиксирует, и каждый вызов по-прежнему создаёт запись о списании, поэтому история использования остаётся полной. Политика допустимого использования и модерация контента действуют и для вызовов BYOK.
Чем это не является
Это не замена вашему собственному менеджеру секретов. Если у вас регулируемая нагрузка, дублируйте учётные данные и в своём KMS. Хранилище ToRun — это слой подстановки во время выполнения, а не основное хранилище секретов.