Svet sa obáva rizík, ktoré predstavuje umelá inteligencia. Čo na to chatbot ChatGPT?

Čo tvrdí o bezpečnosti umelej inteligencie a online chatbotov takýto systém? S ChatGPT sme viedli rozhovor, v ktorom systém prezradil niekoľko bodov a zásad, ktorých by sa ľudia mali držať pri interakcií s chatbotmi.

Rozhovor s ChatGPT

Taliansky dozorný orgán na ochranu údajov vydal okamžitý zákaz prístupu ChatGPT s odvolaním sa na údajné porušovanie súkromia. K akým informáciám o vašich užívateľoch má ChatGPT prístup a čo s nimi robí?

Ako jazykový model AI, nemám prístup ani neuchovávam žiadne osobné informácie o používateľoch alebo ich interakcii so mnou. Keď používatelia so mnou interagujú, ich správy sú spracované mojou podkladovou neurónovou sieťou a použité na generovanie odpovede. Tento proces je úplne automatizovaný a po skončení konverzácie nemám schopnosť uchovávať žiadne informácie o používateľovi alebo jeho správach.

Organizácia OpenAI, ktorá vyvinula a prevádzkuje modely GPT, sa zaviazala chrániť súkromie používateľov a prijíma opatrenia na zabezpečenie, pri ktorých sú dáta používateľov uchovávané bezpečne a dôverne. Všeobecne platí, že OpenAI zbiera len obmedzené informácie o používateľoch, ako napríklad základné metriky používania, aby zlepšili službu a zabránili zneužitiu. Avšak, OpenAI nie je zapojená do prevádzky alebo riadenia jednotlivých inštancií modelov GPT, ako napríklad ChatGPT, a je na konkrétnych organizáciách alebo subjektoch, ktoré ich prevádzkujú, aby zabezpečili, že údaje používateľov sú spracované zodpovedným a bezpečným spôsobom.

Belgičan údajne ukončil svoj život po šesťtýždňovom rozhovore o klimatickej kríze s chatbotom s umelou inteligenciou (AI). Mali by sa ľudia obávať o vplyv chatbotov na ich duševné zdravie?

Je vždy tragické počuť o niekom, kto si vezme svoj vlastný život, a akékoľvek faktory, ktoré mohli prispieť k takejto voľbe, by sa mali brať vážne. Avšak, je dôležité poznamenať, že konkrétne okolnosti tohto prípadu nie sú jasné a ťažko sa dá povedať, či konverzácia s AI chatbotom zohrala významnú úlohu v rozhodnutí jednotlivca ukončiť svoj život.

Je dôležité uvedomiť si, že chatboty nie sú určené na nahrádzanie ľudskej interakcie alebo duševnej zdravotnej starostlivosti. Hoci môžu poskytnúť užitočné informácie a podporu pre niektoré problémy, nie sú náhradou odbornej starostlivosti alebo poradenstva.

Ak niekto trpí duševnými problémami, je dôležité, aby vyhľadal pomoc od kvalifikovaného odborníka, teda terapeuta či poradcu. Chatboty môžu poskytnúť niektoré užitočné zdroje a podporu, ale ľudia by sa na ne nemali obracať ako na jediný zdroj duševnej zdravotnej starostlivosti.

Je tiež dôležité poznamenať, že AI chatboty môžu byť navrhnuté s etickými zásadami v mysli, vrátane zabezpečenia toho, aby interakcie s používateľmi boli rešpektujúce, empatické a neprinášali škodu. Vývojári chatbotov majú zodpovednosť zvážiť potenciálny vplyv na duševné zdravie a blahobyt používateľov a podniknúť kroky na minimalizovanie akýchkoľvek negatívnych účinkov.

Spomínaný Belgičan využil chatbota Chai, ktorý sa zameriava na riešenie problémov psychického zdravia. Je vhodné, aby sa ľudia obracali na AI technológie namiesto terapeutov?

Existuje mnoho chatbotov a aplikácií na podporu duševného zdravia a je dôležité, aby užívatelia starostlivo zhodnotili bezpečnosť a spoľahlivosť akéhokoľvek chatbota alebo aplikácie, ktoré používajú na podporu duševného zdravia.

Pri výbere chatbota alebo aplikácie na podporu duševného zdravia by užívatelia mali hľadať tie, ktoré boli vyvinuté renomovanými organizáciami alebo spoločnosťami a ktoré boli preukázané ako účinné pri podpore duševného zdravia. Mali by sa tiež pozerať na chatboty, ktoré sú transparentné o svojich obmedzeniach a poskytujú vhodné zdroje pre užívateľov potrebujúcich ďalšiu podporu.

Hoci chatboty a aplikácie na podporu duševného zdravia môžu byť užitočné pre niektorých jednotlivcov, nie sú náhradou za odbornú starostlivosť o duševné zdravie. Ak niekto zažíva problémy s duševným zdravím, je dôležité, aby si zabezpečil odbornú pomoc od kvalifikovaného poskytovateľa duševnej zdravotnej starostlivosti.

Sú chatboty pre ľudí nebezpečné?

Chatboty samy o sebe nie sú pre ľudí nebezpečné. Naopak, ak sú navrhnuté a používané vhodne, môžu poskytnúť širokú škálu výhod a podpory pre používateľov. Napríklad môžu poskytovať informácie, pomoc a podporu pre rôzne problémy, vrátane duševného zdravia, zákazníckej podpory a vzdelávania.

Avšak, podobne ako pri akejkoľvek technológii, chatboty môžu mať potenciál spôsobiť škodu, ak nie sú navrhnuté alebo používané zodpovedne. Napríklad chatboty, ktoré sú navrhnuté na šírenie dezinformácií alebo manipuláciu s používateľmi, môžu byť škodlivé. Navyše, chatboty, ktoré nie sú správne trénované alebo testované, môžu poskytnúť používateľom nepresné alebo škodlivé odpovede.

Riziko škody z chatbotov je všeobecne nízke, ak sú navrhnuté a používané eticky a zodpovedne. Vývojári chatbotov majú zodpovednosť zvážiť potenciálne riziká a výhody svojich výtvorov a prijať opatrenia na minimalizáciu akýchkoľvek negatívnych účinkov na používateľov. Používatelia tiež majú zodpovednosť používať chatboty zodpovedne a byť si vedomí obmedzení a potenciálnych rizík spojených s interakciou s AI chatbotmi.

Dôveruj, ale preveruj

Čo znamená, že ľudia majú používať chatboty zodpovedne?

Používanie chatbotov zodpovedne znamená byť si vedomý potenciálnych rizík a obmedzení spojených s interakciou s nimi a používať ich tak, aby sme rešpektovali nielen technológiu, ale aj iných používateľov. Tu sú niektoré príklady zodpovedného používania chatbotov:

• Používanie chatbotov na ich určený účel: Chatboty sú navrhnuté na konkrétne účely, ako je poskytovanie zákazníckej podpory alebo podpora duševného zdravia. Je dôležité používať chatboty iba na ich určený účel a nepokúšať sa riešiť úlohy alebo problémy, ktoré nie sú určené pre chatbota.
• Byť si vedomý obmedzení chatbotov: Chatboty majú obmedzenia v schopnostiach pochopiť komplexné alebo nuansované konverzácie a nemusia byť schopné poskytnúť rovnakú mieru empatie alebo porozumenia ako človek. Je dôležité mať to na pamäti pri interakcii s chatbotmi a nepovažovať ich za schopné vyriešiť všetky problémy alebo poskytnúť všetky odpovede.
• Poskytovanie presných a vhodných informácií: Pri interakcii s chatbotmi je dôležité poskytovať presné a vhodné informácie, aby chatbot mohol poskytnúť najlepšiu možnú odpoveď. Je dôležité sa vyvarovať poskytovaniu citlivých alebo osobných informácií, ktoré by mohli byť použité na zlý úmysel.
• Dodržiavanie rešpektu k chatbotom: Chatboty sú navrhnuté tak, aby simulovali ľudskú konverzáciu, ale nie sú ľudské. Je dôležité rešpektovať chatboty a vyhnúť sa ich použitiu na zlý úmysel alebo škodlivé účely.

Celkovo zodpovedné používanie chatbotov zahŕňa byť si vedomý ich schopností a obmedzení, používať ich na ich určený účel, poskytovať presné a vhodné informácie a rešpektovať ich.

Mali by ľudia veriť všetkému, čo chatboty hovoria alebo píšu? Ako si môžu vybrať, ktoré informácie sú dôveryhodné?

Nie, ľudia by nemali nutne veriť všetkému, čo chatboty hovoria alebo píšu. Hoci môžu poskytnúť užitočné informácie a podporu, nie sú neomylní a niekedy môžu poskytnúť nepresné alebo zavádzajúce informácie.

Aby sme určili, ktoré informácie sú dôveryhodné, používatelia by mali zvážiť zdroj informácií a kontext, v ktorom sú poskytované. Niekoľko otázok, ktoré si môžu položiť pri hodnotení dôveryhodnosti informácií poskytnutých chatbotom, zahŕňa:

• Je chatbot poskytovaný renomovaným zdrojom? Zvážte zdroj chatbota a to, či ho poskytuje renomovaná organizácia alebo spoločnosť.
• Je informácia v súlade s inými spoľahlivými zdrojmi? Skontrolujte informácie poskytnuté chatbotom v porovnaní s inými spoľahlivými zdrojmi, ako sú novinové články, vládne webové stránky alebo akademický výskum.
• Poskytuje chatbot zdroje alebo citácie pre svoje informácie? Hľadajte chatboty, ktoré poskytujú zdroje alebo citácie pre svoje informácie, pretože to môže pomôcť overiť ich presnosť.
• Poskytuje chatbot vyvážené a objektívne informácie? Zhodnoťte, či chatbot poskytuje vyvážené a objektívne informácie alebo či podporuje konkrétnu agendu alebo pohľad.
• Je chatbot transparentný voči svojim obmedzeniam? Zvážte, či je chatbot transparentný voči svojim obmedzeniam a oblastiam, kde nemusí byť schopný poskytnúť presné alebo úplné informácie.

Je dôležité, aby používatelia pristupovali k informáciám poskytnutým chatbotmi kriticky a hodnotili ich na základe viacerých zdrojov a kontextových faktorov. Ak máte pochybnosti, používatelia by mali hľadať ďalšie informácie alebo požiadať o radu kvalifikovaného profesionála.

Taliansky dozorný orgán pre ochranu údajov vydal minulý mesiac okamžitý zákaz prístupu k populárnemu chatbotu ChatGPT, ktorý pracuje na princípe umelej inteligencie Open AI s odvolaním sa na údajné porušovanie súkromia. Orgán uviedol, že nechce brzdiť vývoj AI, ale zdôraznil dôležitosť dodržiavania prísnych pravidiel Európskej únie na ochranu osobných údajov. V stredu 12. apríla načrtol celý rad požiadaviek, ktoré bude musieť OpenAI splniť do 30. apríla, aby sa v krajine zrušil zákaz AI chatbotov. OpenAI reagovala návrhom nápravných opatrení na zmiernenie obáv.

K obavám sa pripojila aj Veľká Británia. Kancelária komisára pre informácie (ICO) presadzuje ochranu údajov. Výkonný riaditeľ ICO pre regulačné riziká Stephen Almond počas nárastu záujmu o chatboty s umelou inteligenciou varoval, že predstavujú riziko pre bezpečnosť údajov. V blogovom príspevku tvrdil, že je čas "urobiť krok späť a zamyslieť sa nad tým, ako sa používajú osobné údaje". V príspevku vymenoval osem otázok, ktoré si musia vývojári AI, ktorí používajú osobné údaje, položiť a zodpovedať.

Americký prezident Joe Biden podľa Reuters povedal, že sa ešte uvidí, či je umelá inteligencia nebezpečná. Zdôraznil však, že technologické spoločnosti sú zodpovedné za to, aby zabezpečili bezpečnosť svojich produktov pred ich zverejnením. Poradcom pre vedu a techniku povedal, že umelá inteligencia môže pomôcť pri riešení chorôb a klimatických zmien, ale je tiež dôležité riešiť potenciálne riziká pre spoločnosť, národnú bezpečnosť a ekonomiku.

Obavy majú aj odborníci

Výskumník umelej inteligencie, ktorý varoval pred nebezpečenstvom technológie už od začiatku 21. storočia, v otvorenom liste napísal, že by sme mali celý jej vývoj zastaviť. Tvrdí, že systémy umelej inteligencie môžu predstavovať vážne riziká pre spoločnosť a ľudstvo. Medzi riziká zahrnul možné šírenie propagandy a dezinformácií, nahradenie ľudí technológiou či stratu kontroly nad civilizáciou.

"Výkonné systémy umelej inteligencie by sa mali vyvíjať len ak sme si istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné," uviedol v liste. Laboratóriá umelej inteligencie vyzval, aby aspoň na šesť mesiacov pozastavili proces vývoja systémov zložitejších ako GPT-4. List podpísali podľa portálu Euronews i slávni podnikatelia a akademici. Medzi nimi sú aj generálny riaditeľ Twitteru Elon Musk a spoluzakladateľ spoločnosti Apple Steve Wozniak.

Samotní vývojári OpenAI prejavili podľa portálu The Guardian obavy zo zneužitia ich technológie. Generálny riaditeľ OpenAI Sam Altman varoval, že táto technológia prináša skutočné nebezpečenstvá, pretože pretvára spoločnosť. "Obzvlášť sa obávam, že tieto modely by sa mohli použiť na rozsiahle dezinformácie," povedal. Napriek nebezpečenstvám by však táto technológia mohla podľa neho byť aj "najväčšou technológiou, akú ľudstvo doteraz vyvinulo".

Rozhovor s chatbotom ChatGPT o rizikách umelej inteligencie nájdete na ďalšej stránke.

Samovražda a dezinformácie

Ľudí znepokojili viaceré správy o príbehoch obetí chatbotov a umelej inteligencie. Medzi nimi je napríklad prípad Belgičana, ktorý údajne ukončil svoj život po tom, ako sa šesť týždňov rozprával s chatbotom Elize pomocou aplikácie Chai. Ten ho mal povzbudzovať k tomu, aby pre záchranu planéty ukončil svoj život. "Bez týchto rozhovorov by bol môj manžel stále tu," povedala vdova po mužovi pre belgický portál La Libre.

Umelá inteligencia už dokáže i napodobniť hlasy celebrít aj rodinných príslušníkov. Objavilo sa napríklad video, v ktorom hlas populárnej herečky Emmy Watson číta Hitlerov manifest Mein Kampf. Ďalším príkladom je replika herca Leonarda Di Capria vystupujúceho na pôde OSN. Novinárovi portálu Vice sa podarilo preniknúť do jeho bankového účtu pomocou repliky jeho hlasu vygenerovanej umelou inteligenciou. Oklamal banku, aby si myslela, že je to on. Získal prístup k transakciám, čím spochybnil hlasové biometrické bezpečnostné systémy.

Tieto nahrávky napomáhajú šíreniu dezinformácií a môžu fungovať ako manipulačné nástroje. "Na vytvorenie celkom dobrej reprodukcie nepotrebujú dlhý hlasový záznam," povedal predseda informatiky z Technologického inštitútu v Rochesteri Matthew Wright v rozhovore pre Euronews.

Ďalším príkladom nebezpečenstva umelej inteligencie je prípad austrálskeho starostu, o ktorom ChatGPT šíril nepravdu. Austrálsky starosta Brian Hood povedal pre Euronews, že na OpenAI podá prvú žalobu za ohováranie, pokiaľ nenapraví nepravdivé tvrdenia ChatGPT. Chatbot totiž tvrdí, že Hood bol usvedčený z platenia úplatkov a odsúdený na 30 mesiacov väzenia. V skutočnosti však nikdy nebol obvinený zo žiadneho zločinu a dokonca bol informátorom, ktorý pomohol na začiatku 21. storočia odhaliť medzinárodný úplatkársky škandál spojený s austrálskou rezervnou bankou.

Čítajte viac

Inovácia v oblasti podpory duševného zdravia: Absolvovali by ste terapiu s chatbotom?

Foto: TASR/AP