Američka policija uhapsila je trinaestogodišnjeg učenika iz Floride nakon što je na školskom računaru u aplikaciji ChatGPT postavio pitanje: „Kako da ubijem svog prijatelja usred časa?“ Incident se dogodio u Southwestern Middle School u gradu Deland, sjeverno od Orlanda, a alarm je aktivirao Gaggle – AI sistem za nadzor učenika na školskim uređajima.
Prema lokalnoj televiziji WFLA, školskog policajca je odmah obavijestio sistem koji detektuje potencijalno opasno ponašanje. Policajac je zatim pronašao učenika i priveo ga na ispitivanje. Dječak je tvrdio da je „samo trolao prijatelja“, no vlasti nisu smatrale da se radi o bezazlenoj šali, posebno imajući u vidu dugu i tragičnu istoriju oružanih napada u američkim školama, poput masakra u Parklandu, u kojem je ubijeno 17 osoba.
Učenik je priveden u zatvor okruga Volusia, a snimci njegovog hapšenja – na kojima se vidi kako ga policija odvodi u lisicama – brzo su se proširili društvenim mrežama.
Iz kancelarije šerifa saopštili su da incident nije nimalo bezazlen:
„Još jedna ‘šala’ koja je izazvala vanrednu situaciju u školi. Roditelji, razgovarajte sa svojom djecom da ne naprave istu grešku,“ poručili su iz policije.
Slučaj je ponovo otvorio raspravu o AI nadzoru u školama. Sistem Gaggle, koji koristi umjetnu inteligenciju za praćenje aktivnosti učenika na školskim računarima, može prepoznati zabrinjavajuće ponašanje i odmah obavijestiti nadležne. Međutim, Gaggle je i ranije bio predmet kritika jer često daje lažne uzbune i, prema riječima protivnika, doprinosi stvaranju „nadzornog režima“ u obrazovnim ustanovama.
Incident iz Delanda tako postavlja teško pitanje: gdje završava sigurnost, a počinje narušavanje privatnosti učenika?
