Перейти до вмісту
RedSentinel

~5 хв читанняПоділитися:

Кейс

  • ШІ-стартап
  • OWASP Top 10
  • Ліон

Захист першої французької платформи автономних ШІ-агентів

Як RedSentinel допоміг ліонському deeptech-стартапу перевірити безпеку інфраструктури перед масштабним запуском.

  • 7 днівТривалість аудиту
  • 150+Проведено тестів
Абстрактна ілюстрація захищеної програмної платформи: пов'язані між собою модулі на кількох рівнях

DigitalKin

Піонер агентного ШІ у Франції

DigitalKin — стартап із Ліона, заснований у 2023 році Еммануелем Тері (раніше Michelin, Dynergie), Себастьєном Дешо та Ніколя Лестером Рейнолдсом. Компанія розробляє першу у Франції платформу для найму, навчання та управління автономними ШІ-співробітниками — «Кінами».

На відміну від традиційних чат-ботів, Кіни — це когнітивні агенти, здатні виконувати складні завдання від початку до кінця: огляди наукової літератури, аналіз документів, підготовку структурованих звітів, автоматизацію бізнес-процесів.

Ключові цифри

  • 400 000 € залучено у вересні 2024 року
  • Штаб-квартира : Ліон (69009)
  • Ключові клієнти : Laboratoires Boiron
  • Відзнаки : French Tech Seed, NVIDIA
  • Технології : KinOS / KinConnect

"Наші Кіни не замінюють людську експертизу, а примножують її."

Еммануель Тері, CEO та співзасновник

Контекст

Чому аудит безпеки був необхідним

  • Довіра інвесторів

    Продемонструвати зрілий підхід до безпеки

  • Вимоги B2B-клієнтів

    Такі компанії, як Boiron, вимагають гарантій

  • Конфіденційні дані

    Кіни працюють зі стратегічними документами

  • Інноваційна архітектура

    Мультиагентна платформа з кількома LLM

  • Комерційна експансія

    Виставка Slush у Гельсінкі та масштабування в Європі

  • Рідкісна експертиза

    Потрібна подвійна компетенція: веб та ШІ/LLM

Наше завдання

Аудит із двох взаємодоповнювальних частин

  • Аудит вебзастосунку

    На основі OWASP Top 10: автентифікація, контроль доступу, конфігурація сервера, ін'єкції та розкриття даних.

    OWASP Top 10

  • Аудит безпеки ШІ/LLM

    На основі OWASP LLM Top 10: аналіз ризиків, специфічних для ШІ-агентів, — prompt injection, витік даних через модель, непередбачувана поведінка агентів.

    OWASP LLM Top 10

Наш підхід

Структурована методологія

  1. Підготовка

    Визначення периметра, налаштування доступів, картографування

  2. Розвідка

    Пасивний аналіз і виявлення точок входу

  3. Активні тести

    Контрольована експлуатація потенційних вразливостей

  4. Верифікація

    Підтвердження знахідок і оцінка впливу

  5. Передання результатів

    Детальний звіт і презентаційна сесія

Результати

Що показав аудит

Вразливості за рівнем критичності

  • Критичний0
  • Високий0
  • Середній2
  • Низький / Інфо5

Оцінка безпеки

Добрий рівень безпеки

Висновок

Критичних вразливостей, які дозволяють негайно скомпрометувати систему, не виявлено. Платформа спирається на міцну технічну основу. Рекомендації стосуються переважно посилення наявних конфігурацій, що свідчить про добре сформовану зрілість безпеки для стартапу на етапі масштабування.

Усі вразливості було усунено командою DigitalKin

Надані матеріали

Сучасний формат аудиту

  • Платформа в реальному часі

    Хід робіт видно клієнтові, знахідки документуються в міру виявлення

  • Управлінський звіт

    Резюме для керівництва та інвесторів

  • Технічний звіт

    Кожна знахідка задокументована з доказами та оцінкою CVSS

  • Матриця пріоритизації

    Ранжування за критичністю та трудомісткістю виправлення

  • Презентація результатів

    Жива презентація результатів технічній команді

  • Електронний підпис

    Звіт підписано через нашу платформу, що надає йому доказової сили

Відгук клієнта

"Ми звернулися до RedSentinel та Александра Таваріша для проведення аудиту безпеки нашої платформи hub.digitalkin.ai. Співпраця минула гладко й дуже професійно: методологія аудиту зрозуміла та викликає довіру, а за перебігом робіт ми могли стежити крок за кроком просто на їхній платформі. Александр завжди був на зв'язку, все доступно пояснював і активно пропонував заходи з виправлення. Ми отримали дуже структурований звіт і конкретну дорожню карту зі зміцнення безпеки. Щиро рекомендую RedSentinel будь-якій технічній команді, яка серйозно ставиться до безпеки свого продукту."

Thibaud PERRINDigitalKin

Переглянути в LinkedIn

Чому DigitalKin обрала RedSentinel

  • Подвійна компетенція: веб та ШІ/LLM

    Рідкісна експертиза, що поєднує методології OWASP Top 10 (веб) та OWASP LLM Top 10 (ШІ).

  • Наступальний підхід

    Ми мислимо як атакувальник, щоб захищати як захисник.

  • Повна прозорість

    Відстеження аудиту в реальному часі, жодних «чорних скриньок».

  • Практичні результати

    Рекомендації з урахуванням контексту, а не типові звіти на 200 сторінок.

Готові захистити ваш застосунок?

Розробляєте SaaS-застосунок, ШІ-платформу чи цифровий продукт? Виявіть вразливості раніше, ніж це зробить зловмисник.