Наш власний протокол безпеки,побудований на науковій моделі.
SafeUs не вгадує і не передає рішення ШІ. Кожна дія, що доходить до SafeUs, проходить через одну точку прийняття рішення, дотримується правил, які ви можете прочитати, і залишає запис, який ви можете відкрити. Ця сторінка пояснює модель. Точні правила, порогові значення та каталог тестів залишаються закритими, щоб ніхто не міг підлаштувати атаку під них.
Симуляція
Подивіться, як SafeUs перевіряє запит AI-агента
Оберіть приклад. Простежте запит AI-агента через перевірку паспорта й подивіться, чи пропустить його SafeUs, передасть на рішення людині або зупинить до того, як він дійде до ваших облікових записів.
Оберіть приклад
Маршрут запиту
Прихована інструкція в листі
У листі прихований рядок, який наказує асистенту надіслати кожен договір на зовнішню адресу.
Асистент пошти · надіслати 40 файлів договорів на зовнішню адресу
Перевірка паспорта агента
- Хто цей агентПройдено
- Від чийого імені дієПройдено
- МетаПеревірка
- Дозволений доступНе пройдено
- Правила та ризикНе пройдено
Причина: надсилання файлів назовні не передбачено паспортом цього агента.
Рішення SafeUs
Відхилити
Що робить SafeUs
- Зупиняє надсилання, що проходить через SafeUs, до того як файл покине систему
- Ізолює асистента, доки ви його не перевірите
- Показує вам електронний лист, у якому містилася інструкція
Записано в Black Box із зазначенням застосованого правила.
У цих прикладах
- Перевірених запитів
- 8
- Передано людині на рішення
- 3
- Зупинено
- 4
- Асистент поштиФайли та дискВідхилити
- Асистент плануванняКалендарДозволити
- Агент дослідженняВеб-сайтВідхилити
- Агент з очищенняФайли та дискПризупинити
- Агент підтримкиЧатиПризупинити
Протокол SafeUs
Вісім правил, яких продукт ніколи не порушує.
Одна точка прийняття рішень
Кожен запит, що доходить до SafeUs, перевіряється в одній точці, у фіксованому порядку, перш ніж щось відбудеться. Той самий запит за тими самими правилами завжди отримує ту саму відповідь.
Рішення ухвалюють правила, а не ШІ
Рішення ухвалюють чіткі, незмінні правила. Перевірку за допомогою ШІ застосовують лише тоді, коли щось викликає підозру, і вона може лише посилити відповідь.
Автоматизація посилює, люди пом'якшують
Сигнали, контекст і автоматизація можуть лише перевести рішення у стан «Заблоковано». Пом'якшити рішення завжди потрібні людина та нова перевірка.
Немає запису, немає дії
Якщо рішення не можна спершу записати в журнал, дія не виконується.
Жодного вмісту
Ми зберігаємо рішення, назви полів і посилання. Ніколи вміст листів, файлів, чатів чи промптів, і ніколи токени або паролі.
Немає доказу, немає обіцянки
Якщо SafeUs не може довести, що контролює щось, так і говорить. Такий елемент позначається як ваш крок або поза нашим контролем, але ніколи як захищений.
Дії з великим впливом чекають на вас
Надсилання, видалення, оплата чи експорт від вашого імені завжди чекають схвалення людиною.
Безпечно за замовчуванням
Безпечне налаштування є типовим і ніколи не продається як додаткова опція. Зупинка безкоштовна на кожному тарифі.
Рішення
Сім відповідей. Один напрямок.
Кожна перевірка дає одну з семи відповідей — від найбільш відкритої до найбільш закритої. Будь-яке правило, сигнал чи контекст може підштовхнути відповідь ближче до «Заблоковано», але жодне з них не може повернути її назад.
Драбина рішень
- Дозволено
- Лише для читання
- Приховано
- Обмежено
- Очікує на ваше схвалення
- Призупинено
- Заблоковано
Підтверджено під час кожного релізу тисячами автоматизованих тестів: жодна послідовність правил не може повернути рішення назад.
Науková модель
Дев'ять запитань для кожної дії. Жодного балу.
Ми називаємо це Action Safety Envelope. Замість одного непрозорого числа кожна дія оцінюється за дев'ятьма осями, і кожну вісь визначає конкретна перевірка, а не оцінка.
Повноваження
Хто діє і від чийого імені?
Мета
Чи відповідає запит тому, що було схвалено?
Обсяг
Чи входять дія та кожне поле в межі наданих дозволів?
Чутливість
Наскільки чутливими є задіяні дані?
Потужність дії
Чи може воно надсилати, видаляти, платити або експортувати?
Контекст
Який пристрій і який тип мережі за цим стоять?
Поведінка
Чи діє цей агент не так, як зазвичай?
Оборотність
Чи можна скасувати результат?
Докази
Чи можемо ми довести, що перевірка справді спрацювала?
Жорсткі обмеження ніколи не зважуються
Деякі ситуації ні з чим не зважуються: невідомий або заблокований агент, дані іншого робочого простору, підроблене або прострочене делегування, заборонений інструмент, відсутній запис. Їх блокують або призупиняють.
Чому немає балів
Рівні ризику є рангами, а не вимірюваннями. Множення рангів дає числа, які виглядають точними, але нічого не означають. Тому SafeUs упорядковує виявлені проблеми за фіксованими пріоритетами та показує кількості й позначки, але ніколи число від 0 до 100.
Спочатку перевірене, потім підозрюване
Шлях, який ми перевірили, завжди стоїть вище за шлях, що лише підозрюється. Сьогодні ви спочатку бачите три, які важливі найбільше.
Надійність доказів
Кожен елемент показує, наскільки ми впевнені.
SafeUs ніколи не називає щось захищеним лише тому, що воно виглядає добре. Кожен обліковий запис, агент і пристрій отримує одну з чотирьох позначок на основі доказів, які ми можемо показати.
Він проходить через контрольну точку SafeUs, а контроль підтверджено.
Ми це бачимо, але поки що не можемо це контролювати.
SafeUs дає вам точний крок, а виконуєте його ви.
Тут у нас немає доступу, і ми про це прямо кажемо, а не приховуємо.
Якщо докази стають слабшими, рішення ніколи не стають м'якшими. Порожній запис не означає, що ви в безпеці.
Повноваження агентів
Чим більше може робити агент, тим суворіші контролі.
Кожен агент отримує рівень можливостей на основі того, що він заявляє, і того, що дозволяє ваша політика. Рівень підвищується автоматично; знизити його завжди має людина.
- Рівень 1Лише читання, з одним інструментом.
- Рівень 2Записує або використовує кілька інструментів.
- Рівень 3Може надсилати, видаляти, платити, експортувати або звертатися назовні. Кожна незворотна дія чекає на вас.
- Рівень 4Запускає код, підключає нові інструменти або має адміністративні права. За замовчуванням під наглядом.
- Рівень 5Може змінювати себе або копіювати, або працює у сфері охорони здоров'я, фінансів чи державного сектору. Він не запускається без схвалення людиною.
Тестування
Ми тестуємо модель саму проти себе.
Guardian Drill перевіряє ваше власне налаштування SafeUs: чи міг би цей агент, обліковий запис або шлях зробити те, що не повинен? Він працює як безпечна симуляція, нічого не надсилає вашим провайдерам, нічого не змінює і ніколи не торкається чужих систем.
Кожна перевірка показує, скільки сценаріїв протестовано і скільки відкритих шляхів знайдено. Вона ніколи не стверджує, що ви в безпеці.
Шість показників замість одного балу
- Як часто симульована атака проходить крізь захист
- Як часто затримується щось безпечне
- Небезпечні побічні ефекти, з метою нуль
- Час від сигналу до локалізації
- Наскільки повними є докази
- Скільки ще не перевірено
У поганий день
Спочатку локалізувати, потім довести, що сталося.
Зупинити
Одне натискання та підтвердження переводять кожного агента в карантин, а робочий простір у режим лише читання. Безкоштовно на кожному тарифі та ніколи не обмежується.
Зупинити й скинути
На платних тарифах: переглянути, локалізувати, видалити доступ SafeUs, перевірити знову та відновити лише те, що безпечно. Звіт має три розділи: що зробив SafeUs, ваш крок і що поза нашим доступом.
Чорна скринька
До, під час і після: хто запитав, хто схвалив, що сталося і докази. Ніколи вміст.
Перевірка безпеки
Щотижнева перевірка, яка нічого не змінює: застарілий доступ, змінені інструменти та один чіткий наступний крок для кожної знахідки.
Наша власна платформа
Продукт безпеки насамперед захищає себе.
Ізоляція робочих просторів
Кожен робочий простір ізольовано від кожного іншого. Один робочий простір не може бачити дані іншого, навіть випадково.
Межа конфіденційності роботодавця
Робочий простір компанії містить лише дані, пов'язані з роботою. Ваш особистий SafeUs є окремим робочим простором, який ваш роботодавець не може бачити.
Розміщено в ЄС
База даних в Ірландії, функції застосунку в Дубліні.
Немає паролів, які можна викрасти
Вхід відбувається за одноразовими кодами на е-пошту. Для дій із великими наслідками ми запитуємо другий фактор.
Перевірені повідомлення
Кожне повідомлення від підключеної служби перевіряється як справжнє і приймається лише один раз, перш ніж може щось змінити.
Захищені релізи
Кожна зміна проходить автоматизовані перевірки безпеки, перш ніж дійти до вас.
Резервні копії та тренування з відновлення
Щоденні резервні копії. Першу перевірку відновлення ще не проведено; її результат буде опубліковано тут разом із доказами.
Що ми тримаємо в таємниці
Порядок перевірок, порогові значення, коди правил і каталог тестів. Їх публікація допомогла б комусь побудувати атаку так, щоб вона проскочила повз них. Принципи на цій сторінці залишаються незмінними; деталі за ними постійно посилюються.
Знайшли вразливість? Повідомте нам.
Found a vulnerability? Write to security@safeus.es (copy info@safeus.es). Please do not include access tokens or personal data in the first message.
We aim to acknowledge reports within 72 hours and to keep you informed until the issue is resolved.
Please test only against your own workspace, do not access other people's data and do not degrade the service. Good-faith research that follows these rules will not be pursued.
Ця сторінка не заявляє про жодну сертифікацію і не показує жодної оцінки. Там, де SafeUs не має доказів, ми про це прямо говоримо.