AI sistemos, turinčios „nepriimtinos rizikos“, dabar yra uždraustos ES

Nuo sekmadienio Europos Sąjungoje bloko reguliavimo institucijos gali uždrausti naudoti AI sistemas, kurios, jų manymu, kelia „nepriimtiną riziką“ ar žalą.

Vasario 2 d. Yra pirmasis ES AI įstatymo atitikties terminas – išsami AI reguliavimo sistema, kurią Europos Parlamentas pagaliau patvirtino praėjusių metų kovo mėnesį po daugelio metų plėtros. Įstatymas oficialiai įsigaliojo rugpjūčio 1 d.; Tai, kas dabar seka, yra pirmieji atitikties terminai.

Specifika yra išdėstyta 5 straipsnyje, tačiau iš esmės įstatymas yra skirtas aprėpti daugybę naudojimo atvejų, kai AI gali atsirasti, ir bendrauti su asmenimis, pradedant nuo vartotojų programų iki fizinės aplinkos.

Remiantis BLOC požiūriu, yra keturi plačios rizikos lygiai: (1) minimali rizika (pvz., El. Pašto šlamšto filtrai) neturės jokios reguliavimo priežiūros; (2) Ribota rizika, įskaitant klientų aptarnavimo pokalbių programas, turės reguliavimo priežiūrą lengvoje vietoje; (3) didelė rizika – AI sveikatos priežiūros rekomendacijoms yra vienas iš pavyzdžių – susidurs su didele reguliavimo priežiūra; ir 4) nepriimtini rizikos paraiškos – šio mėnesio atitikties reikalavimų dėmesys – bus visiškai uždraustas.

Kai kurios nepriimtinos veiklos apima:

• PG buvo naudojama socialiniams balams (pvz., Sukurti rizikos profilius, atsižvelgiant į asmens elgesį).
• Ai, kuri manipuliuoja asmens sprendimais pasąmoningai ar apgaulingai.
• PG, kuris išnaudoja tokius pažeidžiamumus kaip amžius, negalia ar socialinė ir ekonominė būklė.
• PG, kuri bando numatyti žmones, vykdančius nusikaltimus, atsižvelgiant į jų išvaizdą.
• AI, kuri naudoja biometrinius duomenis, siekiant nustatyti žmogaus savybes, kaip ir jų seksualinė orientacija.
• AI, kuri renka „realiojo laiko“ biometrinius duomenis viešose vietose teisėsaugos tikslais.
• PG bando daryti išvadą apie žmonių emocijas darbe ar mokykloje.
• AI, kuri sukuria arba išplečia veido atpažinimo duomenų bazes, atvaizduojant vaizdus internetu arba iš apsaugos kamerų.

Nustatyta, kad įmonėms, kurios naudojasi bet kuria iš aukščiau išvardytų AI paraiškų ES, bus skirtos baudos, neatsižvelgiant į tai, kur jos yra būstinės. Jie gali būti ant kabliuko iki 35 mln. EUR (~ 36 mln. USD) arba 7% jų metinių pajamų iš ankstesnių fiskalinių metų, atsižvelgiant į tai, kas yra didesnė.

Baudos tam tikrą laiką nebus skirtas, pažymėjo Robas Sumroy, Britanijos advokatų kontoros skerdimo technologijų vadovas ir gali, interviu „TechCrunch“.

„Tikimasi, kad organizacijos visiškai atitiks vasario 2 d., Tačiau … kitas didelis terminas, kurį įmonės turi žinoti rugpjūtį“, – teigė Sumroy. „Iki to laiko mes sužinosime, kas yra kompetentingos valdžios institucijos, ir įsigalios baudos ir vykdymo užtikrinimo nuostatos“.

Preliminarūs pažadai

Vasario 2 d. Terminas tam tikra prasme yra formalumas.

Praėjusį rugsėjį daugiau nei 100 bendrovių pasirašė ES AI paktą – savanorišką pažadą pradėti taikyti AI įstatymo principus prieš pradedant jo paraišką. Kaip pakto dalis, pasirašiusieji, kurie apėmė „Amazon“, „Google“ ir „Openai“, įsipareigojo nustatyti AI sistemas, kurios gali būti priskiriamos didelei rizikai pagal AI įstatymą.

Kai kurie technologijų milžinai, ypač meta ir „Apple“, praleido paktą. Prancūzų AI startuolis Mistral, vienas griežčiausių AI akto kritikų, taip pat pasirinko nepasirašyti.

Tai nereiškia, kad „Apple“, „Meta“, „Mistral“ ar kiti, kurie nesutiko su paktu, neatitiks jų įsipareigojimų – įskaitant draudimą nepriimtinai rizikingoms sistemoms. Sumroy pabrėžia, kad, atsižvelgiant į nurodytų draudžiamų naudojimo bylų pobūdį, dauguma kompanijų vis tiek neužsiims šioje praktikoje.

„Organizacijoms pagrindinis susirūpinimas dėl ES AI įstatymo yra tai, ar aiškios gairės, standartai ir elgesio kodeksai bus pateikti laiku – ir, be abejo, ar jos suteiks organizacijoms aiškumo dėl atitikties“, – teigė Sumroy. „Tačiau darbo grupės iki šiol laikosi savo terminų dėl elgesio kodekso… kūrėjams“.

Galimos išimtys

Yra keleto AI įstatymo draudimų išimčių.

Pavyzdžiui, įstatymas leidžia teisėsaugai naudoti tam tikras sistemas, kurios renka biometrinius duomenis viešose vietose, jei šios sistemos padeda atlikti „tikslinę paiešką“, tarkime, pagrobimo auką arba padeda išvengti „konkrečios, esminės ir neišvengiamos“ grėsmės grėsmės. į gyvenimą. Ši išimtis reikalauja tinkamos valdymo organo leidimo, o įstatymas pabrėžia, kad teisėsauga negali priimti sprendimo, kuris „sukelia neigiamą teisinį poveikį“ asmeniui, remiantis tik šiomis sistemų rezultatais.

Aktas taip pat išskiria išimtis sistemoms, kurios daro išvadą apie emocijas darbo vietose ir mokyklose, kuriose yra „medicininio ar saugos“ pateisinimas, pavyzdžiui, sistemos, skirtos terapiniam naudojimui.

Europos EU vykdomoji valdžia Europos Komisija teigė, kad po konsultacijų su suinteresuotosiomis šalimis lapkričio mėn. Ji paskelbs papildomas gaires „2025 m. Pradžioje“. Tačiau šios gairės dar nėra paskelbtos.

Sumroy teigė, kad taip pat neaišku, kaip kiti knygų įstatymai gali sąveikauti su AI įstatymo draudimais ir susijusiomis nuostatomis. Artėjant vykdymo užtikrinimo langui aiškumas gali būti ne vėliau šiais metais.

„Organizacijoms svarbu atsiminti, kad AI reguliavimas neegzistuoja atskirai“, – teigė Sumroy. „Kitos teisinės sistemos, tokios kaip GDPR, NIS2 ir DORA, sąveikaus su AI įstatymu, sukurdama galimus iššūkius – ypač susijusius su pranešimo apie įvykius reikalavimus. Supratimas, kaip šie įstatymai tinka kartu, bus toks pat esminis dalykas, kaip ir paties AI akto supratimas. “