Куда уходят данные из вашей ИИ-системы

Установить, передаются ли данные из ИИ-системы во внешний сервис, можно только техническим исследованием: сетевых соединений, конфигурации, исходного кода и журналов. По интерфейсу и описанию продукта это не видно — система может выглядеть как «собственная разработка», а на деле отправлять ваши запросы, документы или переписку в стороннее API. Такое исследование проводится в рамках экспертизы ИИ-систем, и результат — конкретные ответы: куда, какие данные и в каком виде уходят.

Ниже я разбираю, чем отличается модель на вашем сервере от внешнего сервиса, почему это важно, что вы можете сделать сами и что именно я исследую.

Свой сервер или внешний API: в чём разница

Есть две принципиально разные схемы. В первой модель запущена на оборудовании заказчика или на арендованном им сервере: данные остаются внутри его инфраструктуры. Во второй система при каждом обращении отправляет запрос по сети стороннему поставщику модели, получает ответ и показывает его пользователю. Вместе с запросом уходит всё, что в него вошло: текст, фрагменты документов, имена, реквизиты.

Вторая схема сама по себе законна и широко применяется. Проблемы начинаются, когда:

• в договоре и техническом задании сказано «данные не покидают контур заказчика», а на деле уходят вовне;
• разработчик не раскрыл, что используется чужой сервис, и заказчик об этом не знал;
• в запросах оказались персональные данные клиентов или сотрудников, коммерческая тайна, внутренние документы;
• неизвестно, хранит ли внешний поставщик переданные данные и использует ли их для обучения.

Почему это важно для договора и персональных данных

Для договора важно соответствие реализации обещанному. Если заказчик платил за «закрытое решение», а получил обёртку над внешним сервисом, это предмет спора о качестве и условиях поставки. Правовую оценку даёт суд, а моя задача — установить технические факты, на которых она строится.

Для персональных данных важно, кому и на каком основании они переданы. Требования Закона РК о персональных данных и их защите касаются в том числе передачи сведений третьим лицам, а иногда и за пределы страны. Оценивать правомерность передачи — не моя компетенция, но ответ на вопрос «были ли переданы данные, какие и куда» именно технический, и без него юристу не с чем работать.

Что можно сделать самостоятельно

До обращения к эксперту главная цель — не потерять следы. Я советую:

1. Собрать документы: договор, техническое задание, описание архитектуры, политику обработки данных, переписку с разработчиком о том, где работает модель.
2. Записать, какие данные вводились в систему: категории (персональные, финансовые, коммерческие), кто вводил, в какой период.
3. Сохранить доступы: учётную запись администратора, ключи доступа к API и облаку, список подключённых сервисов и интеграций.
4. Не менять настройки и не удалять журналы на сервере и в панели управления — изменения стирают то, как было устроено.
5. Сформулировать вопросы: куда идут запросы, что в них входит, хранится ли это у получателя, соответствует ли это договору.

Что я исследую

Я устанавливаю технические факты по проверяемым артефактам. Состав работ зависит от объектов, но чаще всего исследование включает:

• сетевые соединения — на какие адреса система отправляет запросы при работе модели и что это за получатели;
• конфигурацию и исходный код — где задан адрес модели, какие ключи доступа используются, что включается в запрос; смежные вопросы по коду разбирает программная экспертиза;
• журналы системы и сервера — фиксируются ли обращения к внешним сервисам, какие данные были переданы;
• учётные записи и ключи доступа — кому принадлежит аккаунт у внешнего поставщика, от чьего имени идут запросы;
• содержимое передаваемых запросов — в той мере, в которой оно сохранилось в журналах или может быть воспроизведено на копии системы.

Исследую я копию данных и среды, оригинал остаётся неизменным. Если речь о передаче данных сотрудником или посторонним лицом без разрешения, вопрос смыкается с экспертизой неправомерного доступа: там устанавливают, кто, откуда и когда получил доступ к данным.

Как сформулировать вопросы эксперту

Хорошие вопросы короткие, технические и привязаны к договору. Например:

• «Запущена ли модель на оборудовании заказчика либо запросы отправляются стороннему сервису?»
• «На какие внешние адреса и в каком составе передаются данные при обработке запроса?»
• «Входят ли в передаваемые запросы персональные данные и файлы пользователей?»
• «Соответствует ли реализованная схема обработки данных пунктам технического задания?»

Вопросы вроде «Нарушил ли разработчик закон?» эксперту не задают: это правовая оценка суда. Помогу сформулировать вопросы так, чтобы на них можно было ответить технически; о том, как они попадают в определение суда, я писал в статье как назначить КТЭ в гражданском деле.

Досудебное исследование или судебная экспертиза

Если спора в суде ещё нет, можно заказать досудебное исследование по договору — результат оформляется как заключение специалиста. Его используют для претензии разработчику и как приложение к иску. Когда дело уже в суде, судебную экспертизу назначает суд определением, а при расследовании — орган досудебного расследования постановлением.

Я работаю как судебный эксперт по компьютерно-технической экспертизе, лицензия № 20008878 от 22.06.2020 (Министерство юстиции РК). У меня более 10 лет практики, более 3000 экспертиз и 400 выступлений в суде. Работаю по всему Казахстану, консультирую круглосуточно.

Частые ошибки

• узнать о передаче данных и сразу удалить аккаунт или журналы — вместе с ними исчезают доказательства;
• просить разработчика самого «подтвердить, что всё закрыто»: он заинтересованная сторона;
• не сохранить техническое задание, где оговорено место обработки данных;
• ограничиться скриншотами вместо доступа к конфигурации, журналам и сетевым данным;
• ставить вопрос юридически («нарушен ли закон») вместо технического («что и куда передавалось»).

Если вы подозреваете, что данные из вашей ИИ-системы уходят туда, куда не должны, напишите мне в WhatsApp: расскажите, что сказано в договоре и что вы наблюдаете, — подскажу, что сохранить и какие вопросы можно поставить эксперту.

Частые вопросы