Ймовірно, ви зараз стикаєтеся з цілком реальною ситуацією. Ви впровадили систему аналітики для прогнозування продажів, механізм оцінки клієнтів або інструмент для сортування резюме. Потім ви читаєте «Закон про штучний інтелект», «високий ризик», «санкції» — і відразу виникає відчуття: ще більше складнощів, ще більше витрат, ще більше ризиків.
Ця реакція цілком зрозуміла, але суть у іншому. Закон про штучний інтелект не карає тих, хто використовує ШІ. Він карає тих, хто використовує його, не розуміючи, де його вплив стає відчутним для людей, їхніх прав та безпеки. Для малого та середнього бізнесу це розмежування змінює все. Воно дозволяє не розглядати кожен проєкт із ШІ як нерозв’язну юридичну проблему та зосередити час і кошти лише там, де це дійсно потрібно.
Є також стратегічна причина, чому це питання слід вирішувати саме зараз. Італійські МСП становлять 95% підприємств, але лише 15% з них впровадили передові системи ШІ для аналітики, що на 40% менше, ніж середній показник по ЄС, через нормативні бар'єри, згідно з даними, наведеними в аналізі статті 6 Закону про ШІ. Фактично, багато компаній зупиняються не тому, що ШІ не потрібен, а тому, що питання дотримання вимог здаються їм незрозумілими.
Цей посібник виконує просте завдання. Він перетворює класифікацію «високого ризику» на практичні рішення для італійських малих та середніх підприємств. Без зайвої термінології. Без паніки. З чіткою логікою щодо того, на що звертати увагу, як оцінити ситуацію та де вжити заходів.
Підприємець у сфері роздрібної торгівлі впроваджує систему штучного інтелекту для прогнозування попиту та запасів. Фінансовий керівник використовує модель для оцінки кредитних заявок. Менеджер з персоналу випробовує програмне забезпечення для сортування резюме. Жоден із них не замислюється над тим, що потрапляє у сферу регулювання з серйозними наслідками. Однак саме тут і починаються проблеми.
Складність полягає не в самому тексті закону. Вона полягає в тому, що багато малих та середніх підприємств розглядають свої інструменти як прості засоби операційної автоматизації, хоча насправді деякі з цих інструментів впливають на доступ до роботи, основних послуг або рішень, що мають істотні наслідки для людей. Закон про штучний інтелект (AI Act) саме на це й спрямований.
Не обов’язково бути компанією-розробником програмного забезпечення, щоб потрапити під дію Закону про штучний інтелект. Достатньо використовувати штучний інтелект у процесах, що мають реальне значення.
Якщо ви використовуєте аналітику, скоринг, рейтингування або прогнозні системи, питання не в тому, чи стосується вас Закон про штучний інтелект. Правильне питання таке: які з ваших систем можуть потрапити до категорії високого ризику та які це матиме операційні наслідки.
Хороша новина полягає в тому, що ця логіка не є довільною. Вона має чітку структуру. Якщо ви її зрозумієте, ви зможете відокремити звичайні випадки від особливих, ретельно задокументувати винятки та налагодити процес забезпечення відповідності вимогам як керований бізнес-процес. Для амбітного малого та середнього підприємства це набагато більше, ніж просто юридична формальність. Це спосіб захистити зростання, репутацію та можливість впевнено використовувати штучний інтелект.
Закон про штучний інтелект слід розглядати як європейський посібник із надійного використання штучного інтелекту. Він не покликаний гальмувати інновації. Він покликаний диференціювати правила залежно від рівня ризику. Чим більший вплив система штучного інтелекту має на безпеку або основні права, тим суворішими стають вимоги.
Багато малих та середніх підприємств припускаються фундаментальної помилки. Вони вважають, що це регулювання стосується лише тих, хто розробляє моделі штучного інтелекту. Це не так. Якщо ви використовуєте системи штучного інтелекту для прийняття важливих бізнес-рішень, ви вже потрапили в поле дії цього регулювання.
Найбільш влучною аналогією є ремені безпеки. Якщо ви повільно рухаєтеся на парковці, необхідний рівень захисту мінімальний. Якщо ви мчите по автостраді, заходи безпеки мають бути суворими. З штучним інтелектом ситуація така сама. Система, яка пропонує подібні товари, має обмежений вплив. Система, яка впливає на доступ до кредитів, підбір персоналу чи надання життєво важливих послуг, належить до іншої категорії.
Щоб отримати більш широке уявлення про цей регламент, варто також ознайомитися з цим посібником від ELECTE щодо Європейського закону про штучний інтелект.
Для італійського малого та середнього бізнесу Закон про штучний інтелект стосується трьох цілком конкретних сфер:
Практичне правило: якщо ваша система штучного інтелекту впливає на людей, доступ до можливостей або безпеку, розглядайте це як питання управління, а не лише як питання ІТ.
Такий підхід є ефективнішим, ніж типова паніка щодо нормативних вимог. Він спонукає вас ретельно проаналізувати сценарії використання та зрозуміти, в яких випадках дотримання вимог є обов’язковою умовою, а в яких достатньо лише добре задокументованої оцінки.
Віднесення до категорії високого ризику не є моральним осудом технології. Це не означає, що система є хибною, абсолютно небезпечною або такою, якої слід уникати. Це означає, що вона функціонує в умовах, де помилка, упередженість або непрозоре рішення можуть мати серйозні наслідки для реальних людей.
Якщо система, яка пропонує вам фільм, припуститься помилки, це не матиме серйозних наслідків. У гіршому разі ви втратите кілька хвилин. А ось система, яка розглядає заявку на іпотеку, відбирає кандидатів або допомагає ухвалювати рішення в галузі охорони здоров’я, не має такого запасу міцності. Якщо вона припуститься помилки, це не просто спричинить незручності. Це може обмежити доступ до можливостей, послуг або соціального захисту.
Ось яку логіку слід мати на увазі. Закон про штучний інтелект (AI Act) враховує контекст використання та значущість наслідків. Це правильний підхід. Занадто часто компанії зосереджуються на технічних можливостях моделі й ігнорують головне: який вплив має це рішення на життя людей?
Тим, хто хоче відійти від теорії та ознайомитися з прикладами застосування, що ближче до реальних умов роботи підприємств, також стануть у нагоді ці практичні кейси щодо штучного інтелекту в малих та середніх підприємствах, оскільки вони демонструють, як конкретні випадки використання впливають на вартість та ризики залежно від контексту.
Ось основна частинаПосібника з класифікації високого ризику до Закону ЄСпро штучний інтелект. Регламент передбачає два основні підходи. Згідно з Посібником з класифікації високого ризику до Закону ЄС про штучний інтелект, система штучного інтелекту класифікується як така, що становить високий ризик, якщо:
Стаття 6 запроваджує цю дворівневу структуру. І робить це розумно. Вона охоплює не лише чутливі сектори, а й ті продукти, в яких штучний інтелект стає складовою загальної безпеки.
Є ще один момент, який багато малих та середніх підприємств неправильно трактують. Існують винятки, якщо система не несе значних ризиків, але це не означає, що можна автоматично йти на скорочення. Такі винятки мають бути обґрунтовані та офіційно задокументовані постачальником послуг. Якщо ви стверджуєте, що «це не є високоризиковим», ви повинні мати можливість це довести.
Якщо ти стверджуєш, що «у цьому процесі все одно бере участь людина», цього недостатньо. Важливо, наскільки ця система насправді впливає на остаточне рішення.
Ця відмінність є межею між серйозною оцінкою та лише уявною відповідністю.
Правильне запитання не в тому, чи «використовувати штучний інтелект?». А в тому, чи «впливає цей штучний інтелект на безпеку, права або доступ до основних можливостей?». Саме з цього починається серйозна класифікація.
Для малого та середнього бізнесу цей крок слід розглядати як бізнес-рішення, а не як юридичну формальність. Якщо ви неправильно підійдете до системи, то помилитеся з пріоритетами, документацією та інвестиціями. Якщо ж підійдете правильно, то зможете розробити пропорційні механізми контролю та використовувати зібрані дані для ефективнішого управління процесами, постачальниками та внутрішньою відповідальністю.
Додаток III є першим оперативним фільтром. У нормативній довідці щодо Закону про штучний інтелект зазначено 8 сфер, у яких системи штучного інтелекту можуть належати до категорії високого ризику:
Для багатьох малих та середніх підприємств саме в цьому полягає головна проблема. Класифікація залежить від реального впливу системи, а не від комерційної назви програмного забезпечення.
Механізм оцінювання, класифікатор документів або система визначення пріоритетності справ можуть здаватися нейтральними інструментами. Однак це не так, якщо вони суттєво впливають на рішення, що стосуються доступу до кредитів, підбору персоналу або диференційованого ставлення до клієнтів та користувачів. У проектах, подібних до тих, що описані у випадках з фінтех-компаній, які базуються на аналітиці та моніторингу прийняття рішень, вирішальну роль відіграє простежуваність: знання того, які дані вводяться, яка логіка має більшу вагу та де оператор-людина може реально скоригувати результат.
Другий канал часто недооцінюють. Проте саме він приносить найбільше сюрпризів компаніям.
Якщо штучний інтелект є елементом безпеки продукту, на який уже поширюються гармонізовані норми ЄС, то оцінка відразу змінюється. Ви вже не аналізуєте лише модель, яка генерує результати. Ви аналізуєте функцію, яка впливає на загальну безпеку продукту або процесу.
Це питання стосується також малих і середніх підприємств, які не виробляють апаратне забезпечення. Достатньо лише інтегрувати модулі штучного інтелекту в більш комплексні рішення або надавати програмне забезпечення, яке впливає на системи управління, сигналізацію, порогові значення чи автоматичні засоби безпеки, щоб потрапити в сферу, яка висуває набагато вищі вимоги як у документальному, так і в технічному плані.
Винятки існують, але їх потрібно обґрунтовувати перевіреними аргументами. Недостатньо просто сказати, що система виконує підготовчу роль або що людина залишається в курсі подій.
Використовуйте простий критерій:
У цьому випадку платформа для аналізу даних перестає бути лише засобом забезпечення дотримання нормативних вимог. Вона стає стратегічним активом. Вона дозволяє вам моделювати сценарії використання, відтворювати процеси прийняття рішень, контролювати версії моделі та формувати обґрунтовані докази, не перетворюючи команду на імпровізований юридичний відділ.
Малі та середні підприємства, які працюють таким чином, ефективніше використовують свій бюджет. Вони не намагаються відповідати стандартам. Натомість вони створюють основу для управління штучним інтелектом, яка витримує аудит, забезпечує зростання та дозволяє впроваджувати нові сценарії застосування.
Понеділок вранці. Одне мале та середнє підприємство у сфері кредитування схвалює або відхиляє заявки за лічені хвилини. Інше блокує підозрілі транзакції, щоб дотриматися вимог щодо протидії відмиванню грошей. В обох випадках питання не в тому, «чи використовуємо ми ШІ?». Питання набагато практичніше: чи справді результати роботи системи впливають на рішення, що стосуються клієнтів, доступу до послуг або заходів контролю?
Почнемо з випадку, який добре знайомий багатьом малим та середнім підприємствам. Роздрібний продавець використовує систему штучного інтелекту для прогнозування попиту, оборотності запасів та термінів поповнення запасів. Якщо ця модель служить для оптимізації закупівель, логістики та комерційного планування, то, як правило, це не є типовим випадком високого ризику в контексті Закону про штучний інтелект.
Ситуація змінюється, якщо ця система задіюється в процесах, де помилка може порушити безперебійність роботи, вплинути на важливі механізми контролю або функції, пов’язані з безпекою сервісу. У такому разі ви вже не оцінюєте інструмент прогнозування абстрактно. Ви оцінюєте його реальну роль у критично важливому процесі.
Для малого та середнього бізнесу корисно дотримуватися такого правила: класифікуйте сценарій використання, а не назву програмного забезпечення.
У сфері кредитування межа самовиправдання значно звужується. Якщо система штучного інтелекту оцінює надійність, сегментує клієнтів за рівнем ризику або суттєво впливає на результат розгляду заявки, до такого клієнта слід ставитися як до клієнта з високим рівнем ризику, застосовуючи серйозний підхід з самого початку.
Причина проста. У цьому випадку ви не оптимізуєте маркетингову кампанію чи поповнення запасів. Ви впливаєте на доступ до фінансової послуги. Для Закону про штучний інтелект ця відмінність має велике значення.
Типовою помилкою є спроба сховатися за формулюванням «підтримка прийняття рішень». Цього недостатньо. Якщо оператор схильний підтверджувати оцінку, згенеровану моделлю, якщо винятки трапляються рідко або якщо терміни обробки унеможливлюють критичний перегляд, система все ж таки відіграє важливу роль у прийнятті остаточного рішення.
Для малого та середнього бізнесу правильним кроком є не нескінченні дискусії щодо визначення. А відновлення процесу прийняття рішень на основі перевірених даних: які дані вводяться в модель, який результат виходить, хто може його змінювати, в яких випадках це дійсно відбувається та з якою мотивацією. Якісно розроблена аналітична платформа саме в цьому і допоможе. Вона об’єднує простежуваність, журнали, версії моделі та оперативні обґрунтування. Комплаєнс перестає бути окремою статтею витрат і стає основою управлінського контролю.
Щоб дізнатися, як представники галузі організовують подібні процеси, ознайомтеся з прикладами з практики у сфері фінтех від ELECTE.
У сфері кредитування «підтримка» не має великого значення, якщо модель забезпечує передбачуваний і повторюваний результат.
У сфері боротьби з відмиванням грошей потрібна більша дисципліна та менше гасел. Систему, яка виявляє аномалії чи підозрілі закономірності, не слід автоматично розглядати як систему, що самостійно приймає рішення щодо клієнтів або відносин. Її слід аналізувати з огляду на конкретну функцію, рівень автоматизації та операційний вплив.
Задайте собі чотири чіткі запитання:
У цьому питанні багато малих і середніх підприємств припускаються помилок через організаційні звички. На папері передбачено людський контроль. Насправді ж сповіщення від моделі стає головним фільтром, і ніхто не фіксує, чому повідомлення підтверджується або відхиляється. Саме це і потрібно виправити.
Розумним рішенням є використання аналітики даних як інфраструктури управління. Це допоможе вам зрозуміти, які сигнали призводять до прийняття рішень, які змінні мають реальне значення, в яких випадках команда лише підтверджує модель, а в яких — здійснює реальний контроль. Це рішення, пов’язане не лише з дотриманням вимог, а й зі стратегією. Воно зменшує конфлікти з аудиторами та партнерами, покращує якість розслідувань і дозволяє уникнути ситуації, коли ви занадто пізно дізнаєтеся, що «виключно внутрішня» система вже впливала на прийняття важливих рішень.
Коли система потрапляє до зони підвищеного ризику, найгіршою помилкою є ставлення до дотримання вимог як до купи документів, які потрібно підготувати в останній момент. Це неефективно. І обходиться дорожче. Вимоги слід використовувати як основу для управління системою.
У Додатку III наведено перелік основних зобов’язань для провайдерів та систем високого ризику. Найважливішими для малого та середнього бізнесу є такі:
Ефективне дотримання нормативних вимог не гальмує розвиток бізнесу. Воно усуває «сірі зони», які заважають проведенню аудитів, співпраці з партнерами та розширенню бізнесу.
| Обов’язок (стаття Закону про штучний інтелект) | Опис ключа | Практичні кроки для малого та середнього бізнесу |
|---|---|---|
| Управління ризиками (ст. 9) | Постійне управління ризиками системи штучного інтелекту | Створіть реєстр ризиків для кожного випадку використання ШІ та оновлюйте його при зміні моделі, даних або цілей |
| Управління даними (ст. 10) | Актуальні, репрезентативні та перевірені дані | Документуйте джерело даних, критерії очищення, відомі обмеження та перевірки на наявність помилок або невідповідностей |
| Технічна документація | Формальне підтвердження функціонування та цілей | Складіть специфікацію системи, вказавши мету, користувачів, вхідні та вихідні дані, обмеження, логіку та засоби контролю |
| Відстежуваність | Відтворення операцій системи | Зберігайте журнали, версії моделі, відповідні параметри та пов’язані з ними рішення |
| Людський нагляд | Ефективний контроль за прийняттям рішень | Призначте внутрішнього відповідального, який зможе зупинити, переглянути або виправити результати роботи |
Малій та середньому бізнесу не потрібен величезний відділ з питань дотримання нормативних вимог. Йому потрібна методологія. Якщо ця методологія буде інтегрована в процеси аналітики, розробки продуктів та операційної діяльності, дотримання нормативних вимог перестане бути гальмом і стане більш зрілим підходом до використання штучного інтелекту.
Понеділок вранці. Клієнт з корпоративного сектору запитує вас, як ви класифікуєте свій механізм оцінювання, хто його контролює та які докази ви маєте, щоб підтвердити, що він не належить до систем високого ризику. Якщо в цей момент вам доводиться шукати файли, електронні листи та неофіційні відповіді, проблема не в алгоритмі. Проблема в управлінні.
Для малого та середнього бізнесу початкова оцінка має привести до оперативного рішення, а не до розмитого документа. Вам потрібно знати три речі: де ви використовуєте ШІ, наскільки він впливає на прийняття рішень, і які докази ви можете надати, якщо аудитор, партнер або керівництво попросять вас пояснити класифікацію. Саме тут якісна аналітична дисципліна відіграє вирішальну роль. Вона допомагає вам провести інвентаризацію систем, пов’язати дані, моделі та процеси, а також скоротити час, витрачений на імпровізовані перевірки.
Використовуйте цей контрольний список насамперед як управлінський інструмент, а вже потім — як юридичний.
Чи маєте ви актуальний перелік усіх систем штучного інтелекту, що використовуються?
Включіть до нього власні моделі, функції штучного інтелекту, інтегровані в стороннє програмне забезпечення, а також системи оцінювання, ранжування, прогнозування, боротьби з шахрайством та автоматизації, що впливають на операційні процеси.
Чи описали ви для кожної системи конкретну функцію одним чітким реченням?
Слова «аналітика» недостатньо. Напишіть, який реальний ефект це дає: оцінює кредитні заявки, сортує потенційних клієнтів, виявляє відхилення, визначає пріоритети, блокує операції, підтримує процес адаптації нових користувачів.
Чи впливає результат на людей, доступ до послуг або важливі економічні рішення?
Якщо відповідь «так», перевірку слід посилити. Системи, що регулюють кредитування, страхування, працевлаштування, доступ до послуг або заходи безпеки, потребують негайної уваги.
Чи є роль людини суттєвою, чи лише формальною?
Якщо керівник майже завжди затверджує результати роботи, не маючи інструментів, часу чи повноважень, щоб їх оскаржити, то це не є справжнім керівництвом.
Чи можете ви пояснити, чому система не належить до категорії високого ризику, надавши перевірені внутрішні докази?
Потрібні документи, журнали, критерії прийняття рішень, заявлені обмеження та логічне обґрунтування. Без цих доказів класифікація є непереконливою.
Чи знаєте ви, якими даними живиться система і які ризики вони несуть?
Походження даних, їхня якість, оновлення, чутливі параметри, відомі помилки та залежність від сторонніх постачальників — все це необхідно відстежувати. Якщо ви цього не знаєте, ви не оцінюєте ризик. Ви просто зазнаєте його.
Деякі випадки не можна вирішувати, спираючись лише на загальний здоровий глузд. Їх слід негайно передавати спеціалістам з питань дотримання нормативних вимог, юридичного відділу, відділу ризиків або керівництву.
Якщо ви не можете обґрунтувати класифікацію перед важливим клієнтом або аудитором, це означає, що вона ще не готова.
Зрештою, вам не потрібен перелік сумнівів. Вам потрібен результат для кожної системи: виключити, докладніше вивчити або розглядати як потенційно ризиковану, доки не буде доведено протилежне. Такий підхід дозволяє уникнути типової помилки амбітних малих та середніх підприємств. Вони швидко зростають, впроваджують корисні інструменти штучного інтелекту, але залишають класифікацію в сірій зоні, що згодом уповільнює продажі, партнерство та масштабування.
Якщо у вас вже є основа для звітності та контролю даних, ви зможете організувати цю роботу набагато ефективніше. Налагоджена платформа допоможе вам пов’язати сценарії використання, дані, результати та відповідальність у спосіб, зрозумілий навіть для нефахівців. Щоб зрозуміти, як створити таку основу у вашій компанії, вам може стати в нагоді цей посібник із програмного забезпечення для бізнес-аналітики для малих та середніх підприємств.
Дотримання нормативних вимог стає обтяжливим, коли дані розкидані, процеси не відстежуються, а результати моделювання не пов’язані з чіткими обов’язками. Саме тут добре розроблена аналітична платформа може стати вирішальним фактором. Не як спосіб обійти законодавство, а як інфраструктура, що забезпечує впорядкованість.
Сучасна платформа допомагає, насамперед, у чотирьох аспектах:
Ті, хто вже працює з інструментами бізнес-аналітики, відразу розуміють їхні переваги. Якщо ви хочете краще зрозуміти цей аспект, вам також буде корисний цей детальний огляд від ELECTE, присвячений програмному забезпеченню для бізнес-аналітики, яке допомагає у прийнятті управлінських рішень.
Багато компаній надто чітко розділяють ці два світи. З одного боку, команда, що займається даними, прагне підвищити ефективність. З іншого — команда з питань дотримання нормативних вимог вимагає контролю. Такий поділ є неефективним.
Найкращий шлях — це поєднати ці дві цілі. Належним чином керована система штучного інтелекту забезпечує не лише кращі аналітичні висновки, а й стабільніші, піддані перевірці та надійніші з точки зору зовнішніх партнерів процеси. Іншими словами, дотримання вимог служить не лише для уникнення проблем. Воно допомагає створити середовище, в якому штучний інтелект можна впроваджувати швидше та з меншими внутрішніми суперечностями.
Саме це багато малих і середніх підприємств усвідомлюють занадто пізно. Впорядкованість документації, простежуваність та чіткість у питаннях використання — це не зайва бюрократія. Це основа для того, щоб дійсно використовувати штучний інтелект у масштабі.
Закон про штучний інтелект лякає насамперед тих, хто сприймає його як каральний документ. Це поверхневе тлумачення. Натомість правильне тлумачення таке: цей закон зобов’язує компанії краще розуміти свої системи, власні дані та реальний вплив автоматизованих рішень.
Якщо ви дотримуєтеся цієї логіки, класифікація «високого ризику» перестає бути невизначеною загрозою. Вона стає практичним критерієм. Ви знаєте, де потрібні жорсткі заходи контролю, де можна зробити виняток і де ваше МСП може впроваджувати інновації, не рухаючись наосліп.
Посібник із класифікації високого ризику в рамках AI Act призначений саме для цього. Щоб розвіяти туман. Визначити пріоритети. Уникнути грубих помилок. І створити штучний інтелект, який буде надійнішим, обґрунтованішим і кориснішим для бізнесу.
Малі та середні підприємства, які це зрозуміють раніше, не просто краще відповідатимуть вимогам. Вони стануть більш авторитетними, організованими та готовими до зростання.
Якщо ви хочете перетворити розрізнені дані на чіткі, прозорі та готові до використання висновки, які допоможуть приймати більш обґрунтовані рішення, ознайомтеся з ELECTE — платформою для аналізу даних на базі штучного інтелекту, призначеною для малого та середнього бізнесу. Це реальний спосіб забезпечити більший контроль, прозорість та впорядкованість у процесах, які дійсно мають значення.
.svg)
.svg)
.svg)
