AUT-0423· Знання та ШІ
Очищення персональних даних перед передачею тексту зовнішньому ШІ
Потік знаходить визначені персональні дані, замінює їх за погодженими правилами й блокує передачу неоднозначного тексту зовнішньому ШІ.
Чернетка · Оцінка потребує перевірки
01 / Проблема
Працівники передають у зовнішні ШІ-сервіси звернення та документи із зайвими ідентифікаторами, а разова ручна перевірка пропускає частину даних.
02 / Результат
До погодженого зовнішнього сервісу надходить лише текст із потрібним контекстом і обробленими визначеними ідентифікаторами; неперевірені випадки залишаються на ручному розгляді.
03 / Процес
ТригерПрацівник або система готує текст із внутрішнього джерела для передавання визначеному зовнішньому ШІ-сервісу.
Власник даних погоджує мету, одержувача, дозволені категорії даних і поля, які потрібні для відповіді; правову підставу та правила сервісу перевіряє відповідальний фахівець.
Перед відправленням перевірити лише дозволений текст налаштованими розпізнавачами імен, контактів, номерів та визначених організацією ідентифікаторів.
Замінити дозволені до обробки значення на позначки або псевдоніми; таблицю відповідностей зберігати окремо з обмеженим доступом лише якщо вона потрібна процесу.
Показати оператору тип і фрагмент спрацювання без зайвого копіювання оригіналу; невідомі, неоднозначні або непідтримувані випадки блокувати для ручного рішення.
Повторно перевірити очищений текст і передати його лише погодженому сервісу; невдалий контроль завершується без зовнішнього виклику.
Зберігати версію правил, рішення, час і результат перевірки; сирий текст і таблицю відповідностей зберігати лише за окремо погодженими правилами доступу та строку.
04 / Реалізація1 варіант
Приклад · Перевірка й мінімізація тексту перед запитом до ШІ
Оператор готує запит про затримане замовлення. Контроль замінює ім'я, телефон і номер замовлення на позначки, перевіряє решту тексту, а неоднозначний ідентифікатор залишає на ручну перевірку до виклику ШІ.
Спосіб реалізації
- Побудувати серверний етап виявлення й заміни з налаштованими розпізнавачами, тестовими прикладами й журналом рішень.
- Під'єднати перевірку до погодженого шлюзу API; якщо запит не проходить перевірку або сервіс недоступний, не передавати оригінальний текст.
Що потрібно для реалізації
- Визначені погоджені ШІ-сервіси, мета, категорії даних, заборонені поля та відповідальний за правила.
- Є перевірений набір тестових прикладів для потрібних мов і власних ідентифікаторів; встановлені пороги ручного перегляду та блокування.
- Зовнішній запит можна зупинити до передавання, а журнал не зберігає зайвий вихідний текст.
- Погоджено категорії даних і постачальників.
- Є тестовий набір та власник ручного розгляду.
Обмеження
- Розпізнавачі можуть пропускати дані або позначати звичайний текст; їхню повноту треба перевіряти на власних прикладах, мовах і форматах.
- Заміна ідентифікаторів не гарантує анонімності: поєднання контексту може повторно ідентифікувати людину.
- Картка не визначає правову підставу, допустимість постачальника чи відповідність законодавству; це вирішує відповідальний фахівець.
- Оцінка попередня; автоматична обробка файлів, зображень, аудіо й структурованих таблиць потребує окремої перевірки.
- Ефективність залежить від мов, форматів і налаштувань розпізнавачів; потрібні перевірки на власних прикладах.
- Псевдонімізація збереженого контексту не є незворотною анонімізацією.
Що потрібно уточнити (2)
- Чи потрібно під'єднати контроль очищення до кількох джерел або зовнішніх ШІ-сервісів?
Вкажіть системи-джерела, дозволені сервіси й точку, де запит можна зупинити до передавання.
- Чи потрібні власні правила для кількох мов або специфічних ідентифікаторів?
Укажіть мови, формати номерів, внутрішні коди та типові помилкові спрацювання.