Zakon, koji će stupiti na snagu 1. januara 2026. godine, osmišljen je da zaštiti djecu i ranjive korisnike od štetnih posljedica povezanih s korištenjem AI chatbotova.

foto: Pixabay / Ilustracija

Guverner Kalifornije Gavin Newsom potpisao je zakon koji reguliše chatbotove umjetne inteligencije (artificial intelligence, AI). Tim zakonom Kalifornija je postala prva u Sjedinjenim Američkim Državama koja od operatera AI chatbotova zahtijeva da implementuju sigurnosne protokole.

„Nove tehnologije poput chatbotova i društvenih mreža mogu inspirisati, educirati i povezati, ali bez pravih zaštitnih mjera, tehnologija takođe može iskorištavati, obmanjivati ​​i ugrožavati našu djecu“, rekao je Newsom.

Dodao je da su se mogli vidjeti „zaista užasni i tragični primjeri mladih ljudi kojima je naštetila neregulisana tehnologija“.

„Možemo nastaviti predvoditi u umjetnoj inteligenciji i tehnologiji, ali to moramo činiti odgovorno - štiteći našu djecu na svakom koraku. Sigurnost naše djece nije na prodaju“, kazao je Newsom.

Zakon SB 243, koji će stupiti na snagu 1. januara 2026. godine, osmišljen je kako bi zaštitio djecu i ranjive korisnike od štetnih posljedica povezanih s korištenjem AI chatbotova. Njime će AI kompanije biti pravno odgovorne ukoliko njihovi chatbotovi ne budu ispunjavali zakonske standarde.

Los Angeles Times objašnjava da zakon zahtijeva od operatera chatbotova da imaju procedure za sprečavanje proizvodnje sadržaja koji se odnose na samoubistvo ili samopovređivanje te da uvedu zaštitne mjere poput upućivanja korisnika na liniju za prevenciju samoubistva ili liniju za krizne situacije putem poruka. Prema Zakonu, operateri bi bili dužni obavijestiti maloljetne korisnike najmanje svaka tri sata da naprave pauzu i da chatbot nije čovjek. Takođe bi bili dužni provesti „razumne mjere“ kako bi spriječili da chatbotovi generišu seksualno eksplicitan sadržaj.

Zakon dobio na značaju nakon suicida tinejdžera

Državni senatori Steve Padilla i Josh Becker predstavili su ga početkom godine. TechCrunch piše da je zakon na značaju dobio nakon smrti tinejdžera Adama Rainea, koji je izvršio samoubistvo nakon niza suicidalnih razgovora s OpenAI-jevim chatbotom ChatGPT.

Padilla je za TechCrunch rekao da je zakon „korak u pravom smjeru“ ka postavljanju zaštitnih mjera za „nevjerovatno moćnu tehnologiju“.

„Nadam se da će druge države vidjeti rizik. Mislim da mnoge to vide. Smatram da se ovakav razgovor odvija širom zemlje i nadam se da će ljudi poduzeti mjere. Savezna vlada sigurno nije i mislim da imamo obavezu da zaštitimo najranjivije među nama“, izjavio je Padilla.

Prema pisanju France24, u Sjedinjenim Američkim Državama ne postoje nacionalna pravila usmjerena na suzbijanje rizika od umjetne inteligencije, a Bijela kuća, dodaje ovaj medij, nastoji spriječiti države da pojedinačno uspostave vlastita pravila. 

Neke kompanije već koriste zaštitne mjere za djecu

TechCrunch je podsjetio da su neke kompanije već počele primjenjivati određene zaštitne mjere usmjerene na djecu. Na primjer, kompanija OpenAI je nedavno najavila uvođenje roditeljske kontrole u svom chatbotu ChatGPT.

Iz Replike, chatbota dizajniranog za starije od 18 godina, za TechCrunch je rečeno da posvećuje „značajne resurse“ sigurnosti putem sistema za filtriranje sadržaja i zaštitnih mjera koje usmjeravaju korisnike ka pouzdanim resursima za krizne situacije i posvećena je poštivanju važećih propisa.

TechCrunch podsjeća da su druge države, poput Illinoisa, Nevade i Utaha, donijele zakone kojima se ograničava ili potpuno zabranjuje da se AI chatbotovi koriste kao zamjena za licenciranu mentalnu zdravstvenu zaštitu.

Los Angeles Times piše da Kalifornija je globalni lider u umjetnoj inteligenciji, te da je dom 32 od 50 vodećih AI kompanija u svijetu.

Izvor: TechCrunch, Los Angeles Times, France24

___