Ako lektor pre vzdelávanie dospelých v oblasti umelých inteligencií sa riadim týmito zásadami podľa Nariadenia Európskeho parlamentu a Rady (EU) 2024/1689 (AI Act):
- Transparentnosť:
- Informujem študentov o tom, že pracujú s AI systémami, a poskytujem im základné znalosti o fungovaní týchto systémov a ich obmedzeniach.
- Etika a ochrana práv:
- Vzdelávam študentov o etických otázkach, vrátane ochrany osobných údajov, nepredpojatosti a nediskriminácie. Zdôrazňujem význam ľudskej kontroly a dohľadu nad AI systémami, aby sa zabránilo ich zneužitiu alebo chybnému použitiu.
- Dodržiavanie predpisov:
- Dbám na to, aby všetky vzdelávacie materiály a metódy boli v súlade s platnými zákonmi a reguláciami EÚ týkajúcimi sa AI, vrátane GDPR. Ak používam vysokorizikové AI systémy, dodržiavam všetky potrebné požiadavky na ich transparentnosť, bezpečnosť a spoľahlivosť.
- Podpora AI gramotnosti:
- Podporujem AI gramotnosť medzi všetkými aktérmi v hodnotovom reťazci AI, vrátane vzdelávateľov, vývojárov a používateľov AI systémov, poskytovaním nástrojov a zdrojov na zvýšenie verejného povedomia a porozumenia prínosom, rizikám, ochranám, právam a povinnostiam spojeným s používaním AI systémov.
- Bezpečnostné opatrenia:
- Implementujem primerané bezpečnostné opatrenia na ochranu pred potenciálnymi rizikami spojenými s používaním AI systémov, vrátane ochrany pred neoprávneným prístupom alebo kybernetickými útokmi.
Disclaimer pre moju webovú stránku:
„Poskytujem kurzy zamerané na využitie AI systémov. V súlade s Nariadením Európskeho parlamentu a Rady (EU) 2024/1689 (AI Act) dbám na dodržiavanie najvyšších štandardov bezpečnosti, transparentnosti a ochrany základných práv. Môj program je určený pre dospelých. Informácie o fungovaní AI systémov, ich možnostiach a obmedzeniach sú súčasťou každej lekcie. Cieľom je zabezpečiť, aby ste používali AI technológie zodpovedne a eticky.“
Tieto zásady a informácie sú priamo v súlade s požiadavkami stanovenými v AI Act. Ak máte ďalšie otázky alebo potrebujete podrobnejšie vysvetlenie, som tu, aby som vám pomohol.
Fungovanie ChatGPT, Midjourney, Gemini, Copilot a Claude:
- ChatGPT:
- Fungovanie: ChatGPT je model na spracovanie prirodzeného jazyka vytvorený spoločnosťou OpenAI. Tento model využíva hlboké učenie a je trénovaný na obrovskom množstve textových dát z rôznych zdrojov. ChatGPT dokáže generovať text, odpovedať na otázky, poskytovať odporúčania a viesť konverzácie na rôzne témy.
- Obmedzenia: ChatGPT nemá schopnosť rozumieť kontextu alebo zámerom za otázkami v ľudskom zmysle. Model môže generovať nesprávne alebo nevhodné odpovede a nemá prístup k informáciám po svojom poslednom tréningu. Taktiež môže byť zaujatý na základe dát, na ktorých bol trénovaný, a môže generovať odpovede, ktoré obsahujú etické alebo faktické nepresnosti.
- Midjourney:
- Fungovanie: Midjourney je AI systém na generovanie obrazov, ktorý využíva neurónové siete na vytváranie vizuálneho obsahu na základe textových opisov. Používatelia môžu zadať textový popis a Midjourney vygeneruje obraz, ktorý sa snaží čo najviac zodpovedať zadanému popisu.
- Obmedzenia: Midjourney môže vytvárať vizuálne obsahy, ktoré sú nepresné alebo nevhodné. Model nemusí vždy správne interpretovať textové opisy a môže byť ovplyvnený dátami, na ktorých bol trénovaný. Taktiež nemá schopnosť pochopiť kultúrne a kontextuálne nuansy, čo môže viesť k nesprávnym alebo urážlivým výsledkom.
- Gemini:
- Fungovanie: Gemini je AI systém navrhnutý pre predikciu a analýzu dát. Využíva strojové učenie a pokročilé algoritmy na predikciu trendov, analýzu veľkých dátových súborov a poskytovanie odporúčaní na základe dát.
- Obmedzenia: Gemini môže byť obmedzený kvalitou a rozsahom vstupných dát. Predikcie a analýzy môžu byť nepresné, ak sú dáta neúplné alebo zaujaté. Model môže mať problémy s generalizáciou výsledkov na nové alebo neznáme situácie.
- Copilot:
- Fungovanie: Copilot je AI nástroj vyvinutý spoločnosťou GitHub, ktorý pomáha programátorom písať kód. Využíva strojové učenie na poskytovanie odporúčaní a automatické generovanie kódu na základe kontextu, ktorý programátor zadá.
- Obmedzenia: Copilot môže generovať kód, ktorý je neefektívny alebo obsahuje chyby. Nástroj môže byť tiež zaujatý na základe dát, na ktorých bol trénovaný, čo môže viesť k bezpečnostným alebo výkonnostným problémom v generovanom kóde.
- Claude:
- Fungovanie: Claude je AI systém vyvinutý spoločnosťou Anthropic, zameraný na pokročilú konverzačnú AI a bezpečnosť. Claude využíva hlboké učenie na poskytovanie inteligentných a kontextovo relevantných odpovedí a je navrhnutý s dôrazom na etiku a bezpečnosť.
- Obmedzenia: Claude, podobne ako iné konverzačné AI systémy, môže mať problémy s pochopením kontextu a zámerov používateľa. Môže generovať nesprávne alebo nevhodné odpovede a byť zaujatý na základe dát, na ktorých bol trénovaný. Model môže mať tiež obmedzené možnosti aktualizácie informácií v reálnom čase.
Zhrnutie:
- ChatGPT a Claude sú zamerané na spracovanie prirodzeného jazyka a poskytovanie konverzačných odpovedí, pričom ich hlavné obmedzenia spočívajú v interpretácii kontextu a etických otázkach.
- Midjourney je zamerané na generovanie obrazov, s obmedzeniami týkajúcimi sa presnosti a kultúrnych nuáns.
- Gemini je určený na predikciu a analýzu dát, s obmedzeniami spojenými s kvalitou a rozsahom vstupných dát.
- Copilot je nástroj na asistenciu pri programovaní, kde hlavné obmedzenia zahŕňajú generovanie neefektívneho alebo chybných kódov.
Tieto informácie sú v súlade s princípmi transparentnosti a vzdelávania uvedenými v AI Act.
Tlačová správa Rady EU z 21. mája 2024
Etika a ochrana práv pri používaní AI systémov
Etika a ochrana práv:
Pri používaní AI systémov, ako sú ChatGPT, Midjourney, Gemini, Copilot a Claude, je nevyhnutné dodržiavať etické princípy a chrániť základné práva. Tieto princípy zabezpečujú zodpovedné využívanie AI technológií a súlad s právnymi predpismi, ako je Nariadenie Európskeho parlamentu a Rady (EU) 2024/1689 (AI Act). Ako používateľ AI systémov by ste mali dodržiavať nasledujúce zásady:
- Ochrana osobných údajov:
- Zabezpečte, aby všetky osobné údaje spracovávané AI systémami boli chránené v súlade s GDPR. Osobné údaje musia byť spracovávané zákonne, spravodlivo a transparentne. Anonymizujte alebo pseudonymizujte dáta, keď je to možné, aby ste minimalizovali riziko zneužitia.
- Nezaujatosť a nediskriminácia:
- Uistite sa, že AI systémy sú trénované na dátach, ktoré sú reprezentatívne a nezaujaté. Predchádzajte diskriminácii alebo nespravodlivému zaobchádzaniu s jednotlivcami alebo skupinami.
- Transparentnosť a zodpovednosť:
- Informujte používateľov o fungovaní AI systémov, ich možnostiach a obmedzeniach. Poskytnite jasné a zrozumiteľné informácie o tom, ako AI systémy pracujú, aké dáta používajú a aké rozhodovacie procesy sú implementované. Dôrazne odporúčame udržiavať ľudskú kontrolu a dohľad nad AI systémami.
- Etické použitie:
- Používajte AI technológie zodpovedne a eticky. Buďte si vedomí potenciálnych rizík a prínosov AI a snažte sa minimalizovať negatívne dopady na spoločnosť.
- Bezpečnosť a spoľahlivosť:
- Zabezpečte, aby AI systémy boli bezpečné a spoľahlivé. Implementujte bezpečnostné opatrenia na ochranu pred neoprávneným prístupom, kybernetickými útokmi a inými rizikami. Testujte a monitorujte AI systémy na zabezpečenie ich správneho fungovania.
Podpora AI gramotnosti
Kladiem veľký dôraz na podporu AI gramotnosti medzi všetkými aktérmi v hodnotovom reťazci AI, vrátane vzdelávateľov, vývojárov a používateľov AI systémov. Poskytujem nástroje a zdroje na zvýšenie povedomia a porozumenia prínosom, rizikám, ochranám, právam a povinnostiam spojeným s používaním AI technológií.
Prečo je AI gramotnosť dôležitá?
- Zodpovedné používanie: AI gramotnosť pomáha používateľom pochopiť, ako bezpečne a eticky používať AI systémy.
- Predchádzanie rizikám: Informovanosť o rizikách spojených s AI znižuje pravdepodobnosť negatívnych dopadov na spoločnosť a jednotlivcov.
- Transparentnosť a dôvera: Zlepšenie porozumenia AI technológiám zvyšuje dôveru verejnosti a podporuje transparentnosť v ich používaní.
- Ochrana práv: Vedomosť o právach a povinnostiach spojených s AI pomáha chrániť osobné údaje a základné práva používateľov.
Právne dôsledky porušenia nariadenia AI Act
Podľa Nariadenia Európskeho parlamentu a Rady (EU) 2024/1689 (AI Act) môžu byť za nedodržanie predpisov týkajúcich sa používania a vývoja AI systémov uložené rôzne sankcie. Sankcie sa môžu líšiť v závislosti od závažnosti a povahy porušenia. Tu sú hlavné druhy sankcií, ktoré môžu byť uložené:
- Finančné pokuty:
- Závažné porušenia: Pokuty môžu dosahovať až 6 % z celkového ročného celosvetového obratu za predchádzajúci finančný rok alebo až 30 miliónov EUR, podľa toho, ktorá suma je vyššia. Tieto sankcie sa môžu uplatniť v prípade závažného porušenia, ako je napríklad použitie zakázaných AI systémov.
- Menej závažné porušenia: Pokuty môžu dosahovať až 4 % z celkového ročného celosvetového obratu za predchádzajúci finančný rok alebo až 20 miliónov EUR, podľa toho, ktorá suma je vyššia. Tieto sankcie sa môžu uplatniť v prípade menej závažných porušení, ako je nedodržanie povinností týkajúcich sa transparentnosti a informovanosti.
- Nezákonné použitie AI systémov:
- Používanie AI systémov, ktoré sú zakázané alebo nespĺňajú požiadavky stanovené v AI Act, môže viesť k zákazu ich používania a k ďalším právnym opatreniam.
- Nariadenie nápravných opatrení:
- Orgány dozoru môžu nariadiť vykonanie konkrétnych opatrení na nápravu porušení, ako je napríklad úprava AI systémov, implementácia nových bezpečnostných opatrení alebo zmena procesov na zabezpečenie súladu s predpismi.
- Dočasné alebo trvalé obmedzenia:
- V prípade závažných porušení môžu orgány dozoru nariadiť dočasné alebo trvalé obmedzenia na používanie konkrétnych AI systémov alebo na ich uvedenie na trh.
- Upozornenia a napomenutia:
- V prípade menej závažných porušení môžu byť uložené menej prísne sankcie, ako sú upozornenia a napomenutia, ktoré majú za cieľ upozorniť na potrebu nápravy a dodržania predpisov.