![HER[AI]TAGE](https://her-ai-tage.pou-cakovec.hr/wp-content/uploads/2025/03/logo-1.png){kind=logo}
Iako umjetna inteligencija (AI) i njezin podskup koji se brzo razvija, generativna umjetna inteligencija (GenAI), nude obilje uzbudljivih prednosti i transformacijski potencijal za obrazovanje odraslih, važno je njihovoj uporabi pristupiti uz snažna etička načela i svijest o mogućim zamkama, posebice o sveprisutnom problemu pristranosti. U kontekstu umjetne inteligencije, etika obuhvaća načela i vrijednosti koje usmjeravaju ispravno, pošteno i pravedno postupanje u osmišljavanju, razvoju, primjeni i uporabi tih moćnih tehnologija. Ona uključuje razmatranje mogućeg utjecaja na pojedince, skupine i društvo u cjelini. Pristranost u umjetnoj inteligenciji odnosi se na sustavne i često nepoštene tendencije u rezultatima ili procesima donošenja odluka AI sustava, koje mogu nerazmjerno pogodovati ili zakidati određene ideje, skupine ljudi (na temelju obilježja poput spola, rase, dobi, socioekonomskog statusa ili kulturne pozadine) ili vrste informacija. Ta je pristranost često, iako ne uvijek, nenamjerna i obično proizlazi iz podataka korištenih za treniranje AI modela.
RAZUMIJEVANJE PRISTRANOSTI U AI-ju: IZVORI I OBLICI
AI sustavi, posebice modeli velikih razmjera koji pokreću GenAI, uče analizirajući i prepoznajući obrasce u golemim količinama podataka na kojima se treniraju. Ti se podaci za treniranje obično prikupljaju s interneta, iz opsežnih zbirki knjiga, članaka, slika i drugog sadržaja stvorenog ljudskom rukom. Ako ti temeljni podaci sami po sebi odražavaju postojeće ljudske pristranosti, društvene stereotipe, povijesne nejednakosti ili sustavno zanemaruju određene skupine ili stajališta, AI model može nenamjerno naučiti i usvojiti te pristranosti. Posljedično, AI može u svojim rezultatima reproducirati ili čak pojačati te pristranosti, što dovodi do nepoštenih, zavaravajućih ili štetnih ishoda.
PRIMJERI MANIFESTACIJE PRISTRANOSTI
- Rodni stereotipi: Ako se od AI generatora slika zatraži da stvori sliku „softverskog inženjera“ ili „medicinske sestre“ te on pretežno generira slike muškaraca za prvo, a slike žena za drugo zanimanje, to može odražavati i pojačavati povijesne rodne stereotipe prisutne u podacima za treniranje. To može suptilno utjecati na percepciju i ograničiti težnje.
- Kulturna i geografska odstupanja: Ako je AI generator teksta treniran prvenstveno na novinskim člancima i poslovnim dokumentima iz zapadnih, engleskih govornih područja, njegovi savjeti o temama kao što su pisanje životopisa, poslovni bonton ili čak razumijevanje kulturnih nijansi mogu biti manje relevantni, manje točni ili potencijalno zavaravajući za polaznike iz različitih kulturnih, jezičnih ili ekonomskih konteksta.
- Jezična pristranost: AI alati dizajnirani za analizu ili moderiranje jezika mogli bi pogrešno protumačiti ili nepravedno označiti jezične obrasce, dijalekte ili izraze koje obično koriste manjinske etničke ili jezične skupine kao „netočne“, „neprofesionalne“ ili čak „uvredljive“ ako su podaci za treniranje pretežno sadržavali određeni standardni dijalekt. To može dovesti do osjećaja isključenosti ili pogrešne prosudbe.
- Isključivanje u podacima: Ako podaci za treniranje sustava za prepoznavanje lica pretežno sadrže lica iz jedne etničke skupine, sustav može biti manje točan za pojedince iz drugih etničkih skupina, što dovodi do moguće pogrešne identifikacije i s njom povezanih negativnih posljedica.
U obrazovanju odraslih, gdje je poticanje uključivosti i prilagodba raznolikim polaznicima od presudne važnosti, a osobito kada se radi o osjetljivim temama kao što je kulturna baština (kao u projektu HER[AI]TAGE koji ima za cilj zabilježiti raznolike glasove), od ključne je važnosti da i nastavnici i polaznici razviju vještine prepoznavanja tih mogućih pristranosti. Otvoreno raspravljanje o tim pitanjima, kritičko ispitivanje sadržaja generiranog umjetnom inteligencijom u potrazi za stereotipima ili nedostatkom uravnotežene zastupljenosti te učenje kako osmisliti specifične, nijansirane upute koje aktivno potiču pravednije i raznolikije rezultate, ključne su strategije za ublažavanje tih problema.
PRIVATNOST, ZAŠTITA PODATAKA I ODGOVORNA UPORABA
Uporaba AI alata, posebice onih dostupnih na internetu, često uključuje prikupljanje i obradu korisničkih podataka. To može uključivati upute koje korisnici unose, sadržaj koji AI generira za njih i druge metapodatke o njihovim interakcijama.
- Privatnost i sigurnost podataka: Odrasli moraju razviti snažnu svijest o tome koje osobne ili osjetljive informacije dijele s AI alatima. Uvijek je dobra praksa pažljivo pregledati politiku privatnosti i uvjete pružanja usluge bilo koje AI platforme prije opsežnije uporabe. Izbjegavajte unositi vrlo povjerljive podatke (kao što su osobni identifikacijski brojevi, privatne obiteljske povijesti namijenjene samo za specifično dijeljenje, osjetljive medicinske informacije ili povjerljive poslovne podatke) osim ako je to apsolutno nužno i imate visok stupanj povjerenja u sigurnost platforme i njezine prakse rukovanja podacima. Za projekte poput HER[AI]TAGE-a, osiguravanje prikupljanja podataka od sudionika (posebice ranjivih pojedinaca poput starijih osoba koje dijele osobne priče) na temelju potpunog informiranog pristanka i primjena robusnih mjera za zaštitu tih podataka tijekom cijelog njihovog životnog ciklusa neupitan je etički imperativ.
- Akademski i profesionalni integritet: Lakoća kojom AI može generirati tekst, programski kôd ili slike predstavlja nove izazove za akademski i profesionalni integritet. Korištenje umjetne inteligencije za generiranje cijelih eseja, izvještaja ili odgovora na ispitima i njihovo predavanje kao vlastitog originalnog rada predstavlja plagijat i neetično je. Odrasle polaznike treba usmjeriti da razumiju i koriste AI kao moćan pomoćni alat za učenje, promišljanje ideja, pomoć pri istraživanju ili dobivanje povratnih informacija o vlastitim nacrtima, a ne kao prečac za izbjegavanje procesa učenja ili za lažno predstavljanje vlastitog znanja i sposobnosti.
- Intelektualno vlasništvo i autorska prava: Pravni status sadržaja generiranog umjetnom inteligencijom i uporaba materijala zaštićenog autorskim pravima u podacima za treniranje AI-ja složeni su i još se razvijaju. Budite svjesni uvjeta pružanja usluge AI alata u vezi s vlasništvom nad generiranim sadržajem. Budite svjesni da slike generirane umjetnom inteligencijom možda nisu zaštićene autorskim pravima. Dajte prednost alatima koji su trenirani na etički prikupljenim ili komercijalno sigurnim podacima (npr. Adobe Firefly) gdje je jasnoća intelektualnog vlasništva važna.
PROVJERA PRAVEDNOSTI, TOČNOSTI I PRIKLADNOSTI (NEIZOSTAVAN LJUDSKI NADZOR, TZV. ČOVJEK-U-PETLJI)
S obzirom na mogućnost pogrešaka i pristranosti, ključno je uvijek kritički procjenjivati materijale generirane umjetnom inteligencijom:
- Pogreške, netočnosti i „halucinacije“: AI sustavi ponekad mogu pružiti informacije koje su činjenično netočne, zavaravajuće ili čak mogu „halucinirati“ – samouvjereno predstavljajući izmišljene informacije kao da su istinite. Nužna je rigorozna provjera činjenica u pouzdanim izvorima.
- Zastarjele informacije: Podaci za treniranje većine AI modela imaju određenu vremensku granicu. Stoga, informacije o vrlo nedavnim događajima, otkrićima ili promjenama politika mogu nedostajati, biti nepotpune ili netočne.
- Neosjetljiv, nepošten ili neprikladan sadržaj: Ako AI generira studiju slučaja za predmet poslovne etike koja nenamjerno odražava samo jedno kulturno stajalište ili sadrži kulturno neosjetljive pretpostavke, nastavnik bi trebao aktivno nastojati dodati raznolike perspektive, zatražiti od AI-ja alternativne scenarije ili iskoristiti pristran rezultat kao priliku za učenje i kritičku raspravu o tim pitanjima.
Također se smatra dobrom etičkom praksom transparentno navesti ili naznačiti kada su AI alati značajno korišteni kao pomoć pri stvaranju materijala, slično kao što bi se naveo ljudski autor, znanstveni rad ili određena mrežna stranica.
RASPRAVA O ETICI: AI U OKRUŽENJIMA ZA UČENJE ODRASLIH
Poticanje otvorenih, informiranih i kritičkih razgovora o etičkim dimenzijama umjetne inteligencije pomaže odraslim polaznicima da se razviju u pronicljive i odgovorne korisnike tehnologije. Nastavnici mogu voditi grupne rasprave, debate ili analize studija slučaja s fokusom na teme kao što su pravednost u AI-ju, pravo na privatnost podataka, intelektualno vlasništvo u doba umjetne inteligencije, mogućnost dezinformacija uzrokovanih umjetnom inteligencijom i društvene posljedice široke primjene AI-ja. Na primjer, polaznici uključeni u projekt HER[AI]TAGE mogli bi se uključiti u bogatu raspravu: „Koja su specifična etička pitanja ako projekt HER[AI]TAGE koristi AI za generiranje vizualnog prikaza (npr. slike ili avatara) povijesne ličnosti iz naše lokalne zajednice na temelju ograničenih povijesnih opisa? Kako možemo osigurati da je takav prikaz pun poštovanja, da izbjegava karikaturu i da uvažava spekulativnu prirodu rezultata AI-ja?“
PRIDRŽAVANJE KLJUČNIH ETIČKIH OKVIRA I PROPISA
Međunarodno priznate smjernice, kao što su UNESCO-ve „Smjernice za generativnu umjetnu inteligenciju u obrazovanju i istraživanju“ (posljednji put ažurirane u travnju 2025.), pružaju vrijedne okvire za rad. One često naglašavaju temeljna načela kao što su osiguravanje ljudskog djelovanja i nadzora, davanje prioriteta sigurnosti, promicanje pravednosti i nediskriminacije, zahtijevanje transparentnosti i objašnjivosti u AI sustavima te osiguravanje spremnosti nastavnika.
Novi propisi, poput Uredbe EU-a o umjetnoj inteligenciji (stupila na na snagu u kolovozu 2024.), također uspostavljaju pravne okvire za odgovoran razvoj i primjenu umjetne inteligencije. Ključne odredbe uključuju one o zabranjenim praksama umjetne inteligencije i zahtjevu za pismenošću o AI-ju među osobljem koje se bavi AI sustavima (od veljače 2025.). Za obrazovanje je ključno da se AI sustavi koji se koriste za „određivanje pristupa ili upisa ili dodjeljivanje osoba obrazovnim i strukovnim institucijama“ ili „za vrednovanje ishoda učenja“ često klasificiraju kao visokorizični. To nalaže stroge obveze poput rigorozne procjene rizika, visokokvalitetnog upravljanja podacima, ljudskog nadzora i transparentnosti. Uredba također zabranjuje sustave za prepoznavanje emocija na radnim mjestima i u obrazovnim ustanovama. Obrazovne ustanove trebaju poduzeti praktične korake poput izrade popisa AI sustava koje koriste i razvoja politika o njihovoj uporabi.
Uloga nastavnika u obrazovanju odraslih sve više uključuje i ulogu „etičkog skrbnika“ – modeliranje odgovorne uporabe AI-ja, donošenje etički utemeljenih odluka o tome koje alate integrirati i kako, te osiguravanje da se AI uvijek koristi u pedagoški utemeljene svrhe koje istinski poboljšavaju učenje, a ne umanjuju ga ili uzrokuju štetu.
Sljedeća tablica sažima ključna etička razmatranja:
| Etičko razmatranje / rizik | Opis / manifestacija u AI-ju | Strategija ublažavanja / smjernica za odgovornu uporabu za odrasle polaznike / nastavnike | Relevantnost za projekt HER[AI]TAGE |
| Algoritamska pristranost (npr. U podacima za treniranje, rodni stereotipi, kulturna/geografska odstupanja) | AI sustavi mogu održavati ili pojačavati postojeće društvene stereotipe ili nejednakosti ako su trenirani na pristranim podacima, što dovodi do nepoštenih ili iskrivljenih rezultata. Npr. Generatori slika pretežno prikazuju određene demografske skupine u specifičnim ulogama. | Kritički vrednujte rezultate AI-ja u potrazi za stereotipima i nedostatkom raznolike zastupljenosti. Zatražite od AI-ja pravednije i raznolikije rezultate. Gdje je moguće, tražite raznolike podatke za treniranje. Budite svjesni fokusa Uredbe EU-a o AI-ju na visokokvalitetnim skupovima podataka za visokorizične sustave. | Osiguravanje da su prikazi nematerijalne kulturne baštine generirani umjetnom inteligencijom puni poštovanja, točni i da izbjegavaju kulturne karikature ili pogrešna tumačenja. Osiguravanje zastupljenosti raznolikih glasova zajednice. |
| Privatnost i sigurnost podataka | AI alati, osobito oni na internetu, prikupljaju korisničke podatke (upute, generirani sadržaj, podatke o interakciji). Ti se podaci mogu pohranjivati, ponovno koristiti za treniranje modela ili biti ugroženi. | Pažljivo proučite politike privatnosti i uvjete pružanja usluge. Izbjegavajte unositi vrlo povjerljive ili osjetljive osobne podatke. Koristite jake lozinke i dvofaktorsku autentifikaciju (2FA). Budite svjesni prava na podatke (npr. GDPR). Prakticirajte minimizaciju podataka. | Zaštita privatnosti članova zajednice, posebice starijih osoba, koji dijele osobne priče ili tradicionalno ekološko znanje. Osiguravanje informiranog pristanka i sigurnog rukovanja svim prikupljenim podacima o baštini. |
| Nedostatak transparentnosti / efekt „crne kutije“ | Neki AI modeli donose odluke ili generiraju sadržaj bez jasnih, razumljivih objašnjenja svog procesa zaključivanja. | Tražite AI alate koji nude objašnjenja za svoje rezultate gdje je to moguće. Zalažite se za transparentnost u AI sustavima. Budite svjesni da se „halucinacije“ AI-ja mogu dogoditi. | Osiguravanje da, ako se AI koristi za tumačenje ili predstavljanje kulturnih informacija, osnova za ta tumačenja bude što jasnija, a svi spekulativni elementi priznati. |
| Dezinformacije i „halucinacije“ | AI može generirati uvjerljive, ali činjenično netočne, zavaravajuće ili potpuno izmišljene informacije. | Uvijek kritički vrednujte i rigorozno provjeravajte činjenične tvrdnje generirane od strane AI-ja u više pouzdanih izvora. Ne koristite rezultate AI-ja kao jedini izvor istine. | Sprječavanje širenja netočnih povijesnih ili kulturnih informacija vezanih uz projekt HER[AI]TAGE. Osiguravanje da su sve predstavljene činjenice pomno provjerene. |
| Akademski i profesionalni integritet | Lakoća generiranja sadržaja pomoću AI-ja izaziva zabrinutost zbog plagijata i lažnog predstavljanja vlastitog rada. | Koristite AI kao pomoćni alat za učenje, promišljanje ideja ili izradu nacrta, a ne kao zamjenu za originalno razmišljanje i trud. Pravilno navedite ili naznačite pomoć AI-ja gdje je to prikladno. | Osiguravanje da je svako stvaranje materijala za HER[AI]TAGE uz pomoć AI-ja etički provedeno, s pravilnim navođenjem izvora i bez lažnog predstavljanja autorstva ili originalnosti. |
| Intelektualno vlasništvo i autorska prava | Pravni status sadržaja generiranog od strane AI-ja i korištenje materijala zaštićenog autorskim pravima u podacima za treniranje AI-ja složeni su i još se razvijaju. | Budite svjesni uvjeta pružanja usluge AI alata u vezi s vlasništvom nad generiranim sadržajem. Budite svjesni da slike generirane od strane AI-ja možda nisu zaštićene autorskim pravima (npr. presuda u slučaju Midjourney). Dajte prednost alatima koji su trenirani na etički prikupljenim ili komercijalno sigurnim podacima (npr. Adobe Firefly). | Pojašnjavanje vlasništva i prava korištenja za bilo koji sadržaj generiran od strane AI-ja (tekst, slike, zvuk) stvoren za projekt HER[AI]TAGE, posebno ako je namijenjen javnoj objavi. |
Njegovanjem snažne svijesti o ovim višestrukim etičkim pitanjima, i nastavnici i odrasli polaznici mogu se odgovornije, pravednije i učinkovitije snalaziti u promjenjivom krajoliku AI alata, iskorištavajući njihove prednosti uz ublažavanje mogućih rizika.
PRAKTIČNI PRIMJERI
Istruktor u programu opismenjavanja koristi AI generator slika za stvaranje niza slika za dječju priču koju piše zajedno s odraslim polaznicima. Primjećuje da, kada zatraži „obitelj na pikniku“, AI dosljedno generira slike vrlo specifične, stereotipne obiteljske strukture (npr. dva roditelja suprotnog spola i dvoje djece). Prepoznajući tu moguću pristranost, instruktor zatim pročišćava uputu i izričito traži „različite obiteljske strukture na pikniku, prikazujući različite dobi, etničke pripadnosti i sastave obitelji“ kako bi dobio uključivije i reprezentativnije rezultate.
Na radionici koja se posebno bavi etičkim dimenzijama projekta HER[AI]TAGE, polaznici i osoblje projekta sudjeluju u dubokoj raspravi o etici korištenja AI-ja za „ponovno stvaranje“ ili sintezu glasa starijeg pripovjedača (čak i uz njegov izričit pristanak) kako bi se njegova prikupljena priča ispričala za javno dostupnu audioknjigu. Pažljivo razmatraju aspekte kao što su autentičnost, mogućnost lažnog predstavljanja ako glas AI-ja nema jedinstvene emocionalne nijanse izvornog govornika, prava obitelji pripovjedača i dugoročne implikacije na način na koji se usmena baština čuva i predstavlja.
Odrasli polaznik koristi novi online AI alat za pomoć pri pisanju kako bi mu pomogao u izradi prijave za natječaj za dobivanje granta za razvoj zajednice. Prije unosa detaljnih informacija o svom inovativnom proračunu projekta, osobnim podacima za kontakt i potencijalno osjetljivim podacima o procjeni potreba zajednice, pedantno provjerava politiku privatnosti i uvjete pružanja usluge AI alata kako bi točno razumio kako će se njegovi ulazni podaci pohranjivati, koristiti za poboljšanje modela i štititi od neovlaštenog pristupa. Odlučuje se za alat s jakom enkripcijom podataka i jasnim politikama brisanja podataka.
Nastavnik koji drži tečaj o metodama akademskog istraživanja izričito se bavi temom akademskog integriteta u doba umjetne inteligencije. Vodi raspravu o tome kako se AI može etički koristiti kao alat za promišljanje istraživačkih pitanja, pronalaženje relevantne literature ili provjeru gramatike i stila u nacrtu, ali naglašava da je predaja eseja, istraživačkog rada ili bilo kojeg zadatka koji je u značajnoj mjeri napisala umjetna inteligencija kao vlastitog originalnog rada ozbiljno kršenje akademske etike i predstavlja plagijat. Također raspravlja o odgovarajućim metodama za navođenje pomoći AI-ja.
Tijekom radionice o digitalnim vještinama za starije osobe, voditelj posvećuje jedan dio online sigurnosti i digitalnom građanstvu. Posebno raspravljaju o tome kako stvoriti jake, jedinstvene lozinke za AI platforme i druge online račune, kako prepoznati sofisticirane phishing prijevare koje bi mogle pokušati prevariti korisnike da otkriju osobne podatke lažno se predstavljajući kao legitimne AI usluge, te o važnosti redovitog pregledavanja postavki privatnosti na društvenim mrežama i drugim platformama gdje su aktivni AI algoritmi.
Nastavnik koji priprema obrazovne materijale o lokalnim tradicionalnim obrtima za projekt HER[AI]TAGE koristi AI alat za sažimanje povijesnih tekstova i etnografskih studija. Prije nego što ovaj sažetak generiran umjetnom inteligencijom uključi u svoje nastavne materijale, veoma detaljno provjerava sve činjenične tvrdnje, datume i tumačenja s originalnim znanstvenim izvorima i, gdje je to moguće, savjetuje se s lokalnim povjesničarima i obrtnicima kako bi osigurao da su informacije točne, kulturno osjetljive i bez pogrešnih tumačenja. Također dodaje napomenu da je AI korišten kao početni alat za izradu nacrta.
Grupa odraslih polaznika ima zadatak procijeniti različite alate za prevođenje pokretane umjetnom inteligencijom za višejezični zajednički projekt. Testiraju svaki alat s istim složenim odlomkom koji sadrži kulturne idiome. Zatim uspoređuju prijevode u pogledu točnosti, nijansi i kulturne prikladnosti, što dovodi do rasprave o tome kako AI može nenamjerno izgubiti ili iskriviti značenje u međukulturnoj komunikaciji i o važnosti ljudskog pregleda za osjetljive prijevode.