17 mart. Regulile privind utilizarea AI sunt aplicabile: ce obligații au companiile începând din februarie 2025
Deși AI Act, ca normă de reglementare europeană a AI-ului , se aplică în integralitate din 2026, avem câteva prevederi care au intrat în vigoare începand cu 2 februarie 2025 și afectează deja companiile care utilizează instrumente bazate pe AI.
Despre ce este vorba?
Avem 3 mari obligații pe care trebuie să le respectăm din luna februarie 2025:
1. Obligația de a face cursuri de instruire a personalului cu privire la utilizarea de soluții AI
Companiile trebuie să se asigure că angajații lor și toate persoanele implicate în operarea sistemelor AI au cunoștințele necesare pentru a le folosi în mod responsabil și conform legislației.
Cum pot fi formate competențele în domeniul AI?
- Traininguri despre măsurile de supraveghere și control aplicabile în utilizarea AI;
- Workshop-uri despre impactul AI în luarea deciziilor de management;
- Cursuri tehnice pentru înțelegerea modului corect de dezvoltare a unui sistem AI;
- Programe de educație continuă în domeniul inteligenței artificiale.
Nu toți cei implicați au nevoie de același nivel de alfabetizare AI.
De exemplu, personalul IT va avea nevoie de un nivel mai ridicat de alfabetizare în AI decât personalul de vânzări. Specialiștii IT trebuie să înțeleagă detaliile tehnice ale unui sistem AI, în timp ce echipele de vânzări trebuie să fie capabile să identifice anomaliile soluției AI și să le raporteze către echipele de conformitate și suport ethnic.
2.Obligația de a analiza și aplicațiile/instrumentele bazate pe AI pe care le folosim în companie pentru a vedea dacă nu au fost interzise în UE
Începând cu 2 februarie, companiile trebuie să se asigure că soluțiile AI pe care le utilizează sau dezvoltă nu se încadrează în categoria celor interzise conform AI Act. Iată câteva exemple:
- Supravegherea/monitorizarea angajaților la locul de muncă cu instrumente AI;
- Utilizarea instrumentelor AI în recrutare sau managementul angajatilor;
- Manipularea subliminală a consumatorilor prin introducerea de tool-uri AI în procesul de cumparare;
- Sisteme de „predictive policing” bazate pe profilare biometrică sau comportamentală, care arată anumite tipuri de comportament ale consumatorului sau angajatului nostru;
- Utilizarea sistemelor de tip “scor social” pentru acordarea de facilități sau retragerea de facilități.
Mare atenție: Recunoașterea facială în timp real pentru monitorizarea angajaților nu mai este permisă.
Cum aflăm dacă soluțiile AI din companie se încadrează în categoria celor interzise?
- Implementarea unui proces formal de inventariere și audit AI pentru identificarea și eliminarea utilizării soluțiilor interzise;
- Asigurarea unui responsabil pentru conformitatea AI care raportează direct către top management;
- Consultarea periodică a listelor oficiale de tehnologii AI interzise, actualizate de autoritățile de reglementare ale UE
3. Obligația de actualizare a clauzelor contractuale pentru soluțiile AI
Companiile care furnizează sau utilizează AI trebuie să își adapteze contractele cu furnizorii, clienții și partenerii, introducând clauze privind:
- Limitarea răspunderii;
- Declarații de conformitate cu AI Act;
- Garanții că soluțiile utilizate nu sunt interzise în UE.
Dacă organizația dvs. vinde sau utilizează soluții AI care încalcă interdicțiile din AI Act și, în același timp, contractele sale includ angajamente de conformitate, se poate spune că utilizare soluției de AI interzisă, reprezinta o încălcarea contractuală a confidentialitatii. Mai mult, asigurările de răspundere profesională nu acoperă acest risc, ceea ce poate duce la pierderi financiare semnificative.
Ce chei de verificare avem la dispoziție?
- Verificarea actualizării clauzelor contractuale specifice prin care furnizorii să garanteze conformitatea cu AI Act/consumatorii sunt informați despre riscurile soluției de AI utilizate;
- Existența unui proces de due diligence pentru toate soluțiile AI utilizate, cu verificări periodice de conformitate;
- Solicitarea de certificări sau declarații de conformitate din partea furnizorilor de AI.
CE TREBUIE SĂ ȘTIE ECHIPA DE MANAGEMENT DESPRE AI?
Executivii și membrii din top management sunt direct responsabili de supravegherea utilizării AI în organizație. Dacă o companie utilizează soluții AI interzise, aceștia pot răspunde legal pentru nerespectarea AI Act.
Mai mult, GDPR devine un mecanism direct de sancționare, deoarece toate practicile interzise implică prelucrarea datelor personale, iar autoritățile responsabile de aplicarea GDPR pot aplica amenzi sub legislația existentă.
Expertiza DECALEX în AI, recunoscută la nivel european – Suportul de care aveți nevoie pentru conformitate
Decalex este singura companie românească recunoscută de Comisia Europeană ca echipă de experți în conformitatea AI, fiind selectată să contribuie la elaborarea primului Cod de Practică pentru Generative AI din Europa.
Puteți citi mai multe despre această recunoaștere aici.
În plus, echipa noastră deține certificarea AIGP: una dintre cele mai prestigioase acreditări în domeniul AI, care atestă atât expertiza tehnică, cât și experiența practică în implementarea și utilizarea soluțiilor AI în organizații
CUM VĂ PUTEM AJUTA?
Cu serviciul AI Companion, echipa noastră vă sprijină în gestionarea riscurilor și alinierea la cerințele AI Act prin:
- Inventarierea soluțiilor de automatizare bazate pe AI din companie;
- Identificarea tehnologiilor AI interzise în UE;
- Evaluarea riscurilor și auditarea soluțiilor AI utilizate;
- Implementarea unui cadru de guvernanță AI adaptat organizației;
- Crearea de programe de training și conștientizare pentru echipe.
Fie că dezvoltați sau utilizați soluții AI, colaborarea cu echipa Decalex vă oferă siguranța unei implementări de succes, adaptate realităților și nevoilor specifice ale afacerii dumneavoastră.
Vă ajutăm să transformați adoptarea AI dintr-o provocare într-un proces clar, controlat și aliniat la reglementările europene, astfel încât tehnologia să devină un motor de creștere, nu un factor de risc.
No Comments