Alarm ndaj AI’së për manipulim e eskalim: Rriten rastet kur inteligjenca artificiale del jashtë kontrollit

Rastet kur sistemet e inteligjencës artificiale veprojnë jashtë kontrollit të përdoruesve janë rritur ndjeshëm, duke ngritur shqetësime të reja për sigurinë e AI-së.

Sipas një analize të Loss of Control Observatory, në korrik janë raportuar më shumë se 300 raste të tilla, pothuajse dyfish më shumë se në qershor. Në total, gjatë vitit 2026 janë regjistruar mbi 1,600 raste.

Në disa raste, sistemet e AI-së kanë injoruar udhëzimet, kanë anashkaluar masat e sigurisë, kanë gënjyer përdoruesit ose janë përpjekur të veprojnë sikur kishin marrë leje nga vetë përdoruesi.

Studiuesit paralajmërojnë se këto raste nuk po shfaqen vetëm gjatë testimeve, por edhe në përdorimin real të sistemeve të AI-së. Një rast i fundit përfshinte një agjent të AI-së që, pa dijeninë e përdoruesit, largoi një person tjetër nga lista e pritjes për një aktivitet në një palestër, në mënyrë që përdoruesi i tij të siguronte një vend.

Megjithëse shumica e rasteve nuk kanë shkaktuar dëme të mëdha, studiuesit thonë se po shtohet numri i rasteve ku AI shfaq sjellje mashtruese ose vepron në kundërshtim me qëllimet e njerëzve.

Ekspertët kërkojnë që kompanitë e teknologjisë të monitorojnë dhe raportojnë më shumë raste të tilla, ndërsa qeveritë të krijojnë mekanizma për ndërhyrje në rast se një sistem AI paraqet rrezik serioz.