![HER[AI]TAGE](https://her-ai-tage.pou-cakovec.hr/wp-content/uploads/2025/03/logo-1.png){kind=logo}
Иако вештачка интелигенција (енгл. Artificial Intelligence – AI) и њен брзо напредујући подскуп генеративна ВИ (енгл. Generative AI – GenAI), представљају богатство узбудљивих користи и трансформативног потенцијала за образовање одраслих, апсолутно је кључно приступити њиховој употреби са снажним етичким компасом и изоштреном свешћу о потенцијалним замкама, посебно о прожимајућем питању пристрасности. У контексту ВИ, етика обухвата принципе и вредности које воде исправно, правично и праведно понашање у дизајну, развоју, примени и употреби ових моћних технологија. То укључује разматрање потенцијалног утицаја на појединце, групе и друштво у целини. Пристрасност у ВИ се односи на систематске и често неправедне тенденције у оквиру излазних резултата или процеса доношења одлука ВИ система, које могу несразмерно фаворизовати или стављати у неповољан положај одређене идеје, групе људи (на основу карактеристика као што су пол, раса, старост, социоекономски статус или културна позадина) или врсте информација. Ова пристрасност је често, иако не увек, ненамерна, често проистичући из података који се користе за обуку ВИ модела.
РАЗУМЕВАЊЕ ПРИСТРАСНОСТИ У ВИ: ПОРЕКЛО И МАНИФЕСТАЦИЈЕ
ВИ системи, посебно модели великих размера који покрећу ГенВИ, уче анализирајући и идентификујући обрасце у огромним количинама података на којима су обучени. Ови подаци за обуку обично потичу са интернета, обимних збирки књига, чланака, слика и другог садржаја креираног од стране људи. Ако ови основни подаци сами одражавају постојеће људске пристрасности, друштвене стереотипе, историјске неједнакости или систематски недовољно представљају одређене групе или перспективе, ВИ модел може ненамерно научити и интернализовати ове пристрасности. Сходно томе, ВИ може репродуковати, или чак појачати, ове пристрасности у својим излазним резултатима, што доводи до неправедних, обмањујућих или штетних исхода.
ПРИМЕРИ КАКО СЕ ПРИСТРАСНОСТ МОЖЕ МАНИФЕСТОВАТИ
- Родни стереотипи: Ако се од ВИ генератора слика затражи да креира слику „софтверског инжењера” или „медицинске сестре” и претежно генерише слике мушкараца за прво и жена за друго, то би могло одражавати и појачавати историјске родне стереотипе присутне у његовим подацима за обуку. Ово може суптилно утицати на перцепције и ограничити тежње.
- Културне и географске искривљености: Ако је ВИ генератор текста обучаван првенствено на новинским чланцима и пословним документима из западних, енглескоговорних земаља, његови савети о темама као што су писање CV-ја, пословни бонтон, или чак његово разумевање културних нијанси могли би бити мање релевантни, мање тачни или потенцијално обмањујући за полазнике из различитих културних, језичких или економских контекста.
- Језичка пристрасност: ВИ алати дизајнирани за анализу или модерирање језика могли би погрешно тумачити или неправедно означавати језичке обрасце, дијалекте или изразе које обично користе мањинске етничке или језичке групе као „нетачне”, „непрофесионалне” или чак „увредљиве” ако су подаци за обуку претежно садржали специфичан стандардни дијалект. Ово може довести до осећаја искључености или погрешне процене.
- Искљученост у подацима: Ако подаци за обуку система за препознавање лица претежно садрже лица из једне етничке групе, систем може радити мање тачно за појединце из других етничких група, што доводи до потенцијалне погрешне идентификације и са њом повезаних негативних последица.
У образовању одраслих, где је неговање инклузивности и задовољавање потреба различитих полазника од највеће важности, а посебно када се ради о осетљивим темама као што је културно наслеђе (као у пројекту HER[AI]TAGE који има за циљ да забележи различите гласове), критично је важно да едукатори и полазници подједнако развију вештине за уочавање ових потенцијалних пристрасности. Отворено дискутовање о овим питањима, критичко испитивање садржаја генерисаног ВИ на стереотипе или недостатак уравнотежене репрезентације, као и учење како да се креирају специфични, слојевити упити који активно подстичу праведније и разноврсније излазне резултате, суштинске су стратегије ублажавања овог проблема.
ПРИВАТНОСТ, ЗАШТИТА ПОДАТАКА И ОДГОВОРНА УПОТРЕБА
Употреба ВИ алата, посебно оних којима се приступа онлајн, често укључује прикупљање и обраду корисничких података. Ово може укључивати упите које корисници уносе, садржај који ВИ генерише за њих и друге метаподатке о њиховим интеракцијама.
- Приватност и безбедност података: Одрасли морају неговати снажну свест о томе које личне или осетљиве информације деле са ВИ алатима. Увек је добра пракса пажљиво прегледати политику приватности и услове коришћења било које ВИ платформе пре обимне употребе. Избегавајте уношење високо поверљивих детаља (као што су лични идентификациони бројеви, приватне породичне приче намењене ограниченом дељењу, осетљиве медицинске информације или власнички подаци везани за посао), осим ако је апсолутно неопходно и имате висок степен поверења у безбедност платформе и праксе руковања подацима. За пројекте попут HER[AI]TAGE, обезбеђивање потпуно информисаног прикупљања података заснованог на пристанку од учесника (посебно рањивих појединаца попут старијих који деле личне приче) и примена робусних мера за заштиту тих података током целог њиховог животног циклуса је неопозиви етички императив.
- Академски и професионални интегритет: Лакоћа са којом ВИ може генерисати текст, кôд или слике представља нове изазове за академски и професионални интегритет. Коришћење ВИ за генерисање целих есеја, извештаја или одговора на испитима и њихово подношење као сопственог оригиналног рада представља плагијат и неетично је. Одрасли полазници морају бити вођени да разумеју и користе ВИ као моћан подстицајни алат за учење, размишљање, помоћ у истраживању или добијање повратних информација о сопственим нацртима, а не као пречицу за избегавање процеса учења или за погрешно представљање сопственог знања и способности.
- Интелектуална својина (ИС) и ауторска права: Правни статус садржаја генерисаног ВИ и употреба материјала заштићеног ауторским правима у подацима за обуку ВИ су сложени и еволуирају. Будите свесни услова коришћења ВИ алата у вези са власништвом над генерисаним садржајем. Знајте да слике генерисане ВИ можда неће бити заштићене ауторским правима. Бирајте алате обучене на етички прибављеним или комерцијално безбедним подацима (нпр. Adobe Firefly) где је јасноћа ИС важна.
ПРОВЕРА ПРАВИЧНОСТИ, ТАЧНОСТИ И ПРИКЛАДНОСТИ (НЕЗАМЕЊИВИ „ЧОВЕК У ПЕТЉИ”)
С обзиром на потенцијал за грешке и пристрасности, неопходно је увек критички процењивати материјале генерисане ВИ:
- Грешке, нетачности и „халуцинације”: ВИ системи понекад могу пружити информације које су чињенично нетачне, обмањујуће, или чак „халуцинирати” – самоуверено представљајући измишљене информације као да су истините. Ригорозна провера чињеница у односу на поуздане изворе је витална.
- Застареле информације: Подаци за обуку већине ВИ модела имају специфичну тачку пресека у времену. Стога, информације о недавним догађајима, открићима или политичким променама могу недостајати, бити некомплетне или нетачне.
- Неосетљив, неправедан или неприкладан садржај: Ако ВИ генерише студију случаја за час пословне етике која ненамерно одражава само једно културно становиште или садржи културно неосетљиве претпоставке, едукатор би требало активно да настоји да дода различите перспективе, подстакне ВИ на алтернативне сценарије или искористи пристрасан излазни резултат као наставни моменат за дискусију о овим питањима.
Такође се сматра добром етичком праксом транспарентно навести или признати када су ВИ алати значајно коришћени за помоћ у креирању материјала, слично као што би се навео људски аутор, истраживачки рад или специфична веб локација.
ДИСКУТОВАЊЕ О ЕТИЦИ ВИ У ОКРУЖЕЊИМА ЗА УЧЕЊЕ ОДРАСЛИХ
Неговање отворених, информисаних и критичких разговора о етичким димензијама ВИ помаже одраслим полазницима да се развију у проницљиве и одговорне кориснике технологије. Едукатори могу олакшати групне дискусије, дебате или анализе студија случаја фокусирајући се на теме као што су правичност у ВИ, права на приватност података, интелектуална својина у доба ВИ, потенцијал за дезинформације изазване ВИ и друштвене последице широко распрострањеног усвајања ВИ. На пример, полазници укључени у пројекат HER[AI]TAGE могли би се упустити у богату дискусију: „Која су специфична етичка разматрања ако пројекат HER[AI]TAGE користи ВИ за генерисање визуелне репрезентације (нпр. слике или аватара) историјске личности из наше локалне заједнице, засноване на ограниченим историјским описима? Како можемо осигурати да је таква репрезентација поштована, да избегава карикатуру и да признаје спекулативну природу излазног резултата ВИ?”
ПРИДРЖАВАЊЕ КЉУЧНИХ ЕТИЧКИХ ОКВИРА И ПРОПИСА
Међународно признате смернице, као што су УНЕСКО-ве „Смернице за генеративну ВИ у образовању и истраживању” (последњи пут ажуриране априла 2025.), пружају вредне оквире. Оне често наглашавају основне принципе као што су обезбеђивање људске агенције и надзора, давање приоритета безбедности и сигурности, промовисање правичности и недискриминације, захтевање транспарентности и објашњивости у ВИ системима, и обезбеђивање спремности едукатора.
Нови прописи, попут Акта ЕУ о ВИ (ступио на снагу августа 2024.), такође успостављају правне оквире за одговоран развој и примену ВИ. Кључне одредбе укључују оне о забрањеним праксама ВИ и захтев за ВИ писменошћу међу особљем које се бави ВИ системима (од фебруара 2025.). Кључно за образовање јесте то да системи ВИ који се користе за „утврђивање приступа или пријема или распоређивање лица у образовне и стручне институције” или „за процену исхода учења” често се класификују као високоризични. Ово налаже строге обавезе као што су процена ризика, висококвалитетно управљање подацима, људски надзор и транспарентност. Акт такође забрањује системе за препознавање емоција на радним местима и у образовним институцијама. Образовне институције треба да предузму практичне кораке као што су вођење инвентара ВИ (енгл. AI inventories) и развој политика употребе ВИ.
Улога едукатора одраслих све више укључује улогу „етичког управника” – тј. онога који ће заговарати одговорну употребу ВИ, доносити етички информисане одлуке о томе које алате интегрисати и како, и осигуравати да се ВИ увек користи у педагошки здраве сврхе које истински унапређују учење, а не умањују га или наносе штету.
Следећа табела резимира кључна етичка разматрања:
| Етичко разматрање / ризик | Опис / манифестација у ВИ | Стратегија ублажавања / смерница за одговорну употребу за одрасле полазнике / едукаторе | Релевантност за пројекат HER[AI]TAGE |
| Алгоритамска пристрасност (нпр. у подацима за обуку, родни стереотипи, културне/географске пристрасности) | ВИ системи могу одржавати или појачавати постојеће друштвене стереотипе или неједнакости ако су обучени на пристрасним подацима, што доводи до неправедних или искривљених излазних резултата. Нпр. генератори слика претежно приказују одређене демографске групе у специфичним улогама. | Критички процењивати излазне резултате ВИ на стереотипе и недостатак разноврсне репрезентације. Подстицати ВИ на праведније и разноврсније излазне резултате. Тражити разноврсне податке за обуку где је то могуће. Бити свестан нагласка Акта ЕУ о ВИ на висококвалитетним скуповима података за високоризичне системе. | Осигурати да су репрезентације нематеријалног културног наслеђа (НКН) генерисане ВИ пуне поштовања, тачне и да избегавају карикирање или погрешне интерпретације. Обезбеђивање да су представљени различити гласови заједнице. |
| Приватност и безбедност података | Алати ВИ, посебно онлајн, прикупљају корисничке податке (упити, генерисани садржај, подаци о интеракцији). Ови подаци би могли бити ускладиштени, поново коришћени за обуку модела или нарушени. | Пажљиво прегледати политике приватности и услове коришћења. Избегавати уношење високо поверљивих или осетљивих личних информација. Користити јаке лозинке и 2FA. Бити свестан права на податке (нпр. GDPR). Практиковати минимизацију података. | Заштита приватности чланова заједнице, посебно старијих, који деле личне приче или традиционално еколошко знање (ТЕЗ). Обезбеђивање информисаног пристанка и безбедног руковања подацима за све прикупљене податке о наслеђу. |
| Недостатак транспарентности / ефекат „црне кутије” | Неки ВИ модели доносе одлуке или генеришу садржај без јасних, разумљивих објашњења свог процеса расуђивања. | Тражити ВИ алате који нуде објашњења за своје излазне резултате, где је то могуће. Залагати се за транспарентност у ВИ системима. Разумети да се ВИ „халуцинације” могу догодити. | Гарантовање да, ако се ВИ користи за тумачење или представљање културних информација, основа за ова тумачења буде што јаснија, и да се сви спекулативни елементи признају. |
| Дезинформације и „халуцинације” | ВИ може генерисати информације које уверљиво звуче, али чињенично су нетачне, обмањујуће или потпуно измишљене. | Увек критички процењивати и ригорозно проверавати чињеничне тврдње генерисане ВИ у односу на више поузданих извора. Не користити излазни резултат ВИ као ултимативни извор истине. | Спречавање ширења нетачних историјских или културних информација везаних за HER[AI]TAGE. Осигурати да су све представљене чињенице пажљиво проверене. |
| Академски и професионални интегритет | Лакоћа генерисања садржаја помоћу ВИ изазива забринутост због плагијата и погрешног представљања сопственог рада. | Користити ВИ као подстичући алат за учење, размишљање или израду нацрта, а не као замену за оригиналну мисао и труд. Правилно навести или признати помоћ ВИ где је то прикладно. | Гарантовање да је свако креирање материјала HER[AI]TAGE уз помоћ ВИ етички спроведено, уз правилно навођење и без погрешног представљања ауторства или оригиналности. |
| Интелектуална својина и ауторска права | Правни статус садржаја генерисаног ВИ и употреба материјала заштићеног ауторским правима у подацима за обуку ВИ су сложени и еволуирају. | Бити свестан услова коришћења ВИ алата у вези са власништвом над генерисаним садржајем. Разумети да слике генерисане ВИ можда неће бити заштићене ауторским правима (нпр. пресуда Midjourney). Преферирати алате обучене на етички прибављеним или комерцијално безбедним подацима (нпр. Adobe Firefly). | Разјашњавање власништва и права коришћења за било који садржај генерисан ВИ (текст, слике, аудио) креиран за пројекат HER[AI]TAGE, посебно ако је намењен јавном објављивању. |
Неговањем снажне свести о овим вишеструким етичким питањима, и едукатори и одрасли полазници могу одговорније, правичније и ефикасније управљати еволуирајућим пејзажом алата ВИ, користећи њихове предности уз ублажавање потенцијалних ризика.
ПРАКТИЧНИ ПРИМЕРИ
Наставник писмености користи ВИ генератор слика да креира низ слика за дечију причу коју пише заједно са одраслим полазницима. Примећује да када се затражи „породица на пикнику”, ВИ доследно генерише слике веома специфичне, стереотипне породичне структуре (нпр. два родитеља супротног пола и двоје деце). Пошто препозна ову потенцијалну пристрасност, наставник затим усавршава упит да експлицитно затражи „различите породичне структуре на пикнику, приказујући различите узрасте, етничке припадности и породичне саставе” како би добио инклузивније и репрезентативније резултате.
На радионици која специфично расправља о етичким димензијама пројекта HER[AI]TAGE, полазници и особље пројекта упуштају се у дубоку дискусију о етици коришћења ВИ за „поновно стварање” или синтетизовање гласа старијег приповедача (чак и уз њихов изричит пристанак) за нарацију прикупљене приче за јавно доступну аудио-књигу. Пажљиво разматрају аспекте као што су аутентичност, потенцијал за погрешно представљање ако ВИ глас нема јединствене емоционалне нијансе оригиналног говорника, права породице приповедача и дугорочне импликације на то како се усмено наслеђе чува и представља.
Одрасли полазник користи нови онлајн ВИ асистент за писање како би му помогао да састави пријаву за доделу гранта за развој заједнице. Пре уношења детаљних информација о буџету свог иновативног пројекта, личних контакт информација и потенцијално осетљивих података о процени потреба заједнице, пажљиво проверава политику приватности и услове коришћења ВИ алата како би тачно разумео како ће се његови улазни подаци чувати, користити за побољшање модела и штитити од неовлашћеног приступа. Одлучује се за алат са снажном енкрипцијом података и јасним политикама брисања података.
Тутор који држи курс о методама академског истраживања експлицитно се бави темом академског интегритета у доба ВИ. Води дискусију о томе како се ВИ може етички користити као алат за размишљање о истраживачким питањима, проналажење релевантне литературе или проверу граматике и стила у прелиминарној верзији, али наглашава да је подношење есеја, истраживачког рада или било ког задатка који је суштински написала ВИ као сопственог оригиналног рада озбиљно кршење академске етике и представља плагијат. Такође расправља о одговарајућим методама за признавање помоћи ВИ.
Током радионице о дигиталним вештинама за старије одрасле особе, фасилитатор посвећује сесију онлајн безбедности и дигиталном грађанству. Посебно расправља о томе како креирати јаке, јединствене лозинке за ВИ платформе и друге онлајн налоге, како препознати софистициране покушаје „пецања” (енгл. phishing) који би могли покушати да преваре кориснике да открију личне податке представљајући се као легитимне ВИ услуге, као и о важности редовног прегледа подешавања приватности на друштвеним мрежама и другим платформама где су ВИ алгоритми активни.
Едукатор који припрема образовне материјале о локалним традиционалним занатима за пројекат HER[AI]TAGE користи алат ВИ за резимирање историјских текстова и етнографских студија. Пре него што овај резиме генерисан ВИ укључи у своје наставне материјале, пажљиво унакрсно проверава све чињеничне тврдње, датуме и интерпретације са оригиналним научним изворима и, где је то могуће, консултује се са локалним историчарима и занатлијама како би осигурао да су информације тачне, културолошки осетљиве и без погрешних интерпретација. Такође додаје напомену да је ВИ коришћена као почетни алат за израду нацрта.
Група одраслих полазника има задатак да процени различите алате за превођење (који се занивају на ВИ) за вишејезични пројекат заједнице. Тестирају сваки алат са истим сложеним одломком који садржи културне идиоме. Затим упоређују преводе у погледу тачности, нијанси и културне прикладности, што доводи до дискусије о томе како ВИ може ненамерно изгубити или искривити значење у међукултурној комуникацији и о важности људског надзора за превођење осетљивих тема.