Papež o umělé inteligenci: Je to člověk, kdo rozhoduje o tom, zda se stane potravou pro algoritmy [Poselství].
Papež František vyzval mezinárodní společenství, aby přijalo závaznou mezinárodní smlouvu upravující vývoj a využívání umělé inteligence v jejích různých podobách. S výzvou vystoupil ve svém poselství k 58. světovému dni sdělovacích prostředků, které bylo zveřejněno ve středu.
Téma letošního dne, který se bude v mnoha zemích slavit 12. května, zní "Umělá inteligence a moudrost srdce: pro plně lidskou komunikaci".
František napsal, že vývoj systémů umělé inteligence radikálně mění informace a komunikaci a jejich prostřednictvím "některé základy občanského soužití".
"Zrychlené šíření podivuhodných vynálezů, jejichž fungování a možnosti jsou pro většinu z nás nerozluštitelné, vzbuzuje údiv, který osciluje mezi nadšením a zmatkem, a nevyhnutelně nás staví před základní otázky: co je tedy člověk, v čem spočívá jeho jedinečnost a jaká bude budoucnost našeho druhu zvaného homo sapiens ve věku umělé inteligence?". - dodal.
Od strojů nelze očekávat moudrost a samotné použití slova "inteligence" je zavádějící.
Podle papeže je třeba se především vyhnout "katastrofickému čtení a jeho paralyzujícím účinkům".
"V této době, která je ohrožena tím, že je bohatá na technologie a chudá na lidskost, může naše reflexe vycházet pouze z lidského srdce." - poznamenal František.
Upozornil, že od strojů nelze očekávat moudrost a že samotné používání slova "inteligence" je zavádějící.
"Stroje mají jistě nesrovnatelně větší schopnost než člověk ukládat data a dávat je dohromady, ale je to člověk a pouze člověk, kdo musí rozluštit jejich význam. Nejde tedy o to, aby se stroje tvářily jako lidé." - dodal.
Podle papeže je zapotřebí "probudit člověka z hypnózy, do níž upadá kvůli své iluzi všemohoucnosti, když si myslí, že je zcela autonomním a svéprávným subjektem, odděleným od všech sociálních vazeb a neuvědomujícím si, že je tvorem".
Varoval před "pokušením stát se jako Bůh bez Boha".
Systémy umělé inteligence mohou být nástrojem " poznávací nákazy".
František uznal, že systémy umělé inteligence mohou přispět k procesu osvobození od nevědomosti a usnadnit výměnu informací mezi různými národy a generacemi.
Zároveň však, jak zdůraznil, mohou být nástrojem "kognitivní kontaminace", tedy přetváření reality prostřednictvím částečně nebo zcela falešných vyprávění, kterým se věří.
V této souvislosti připomněl nebezpečí takzvaných "fake news" a také "deep fakes", tj. vytváření a šíření obrazů, které vypadají zcela věrohodně, ale jsou falešné.
"I mně se stalo, že jsem tomu byl vystaven". - vyznal se papež.
Vyjádřil přesvědčení, že je třeba si uvědomit důležitost a nutnost regulace nástrojů, které v nesprávných rukou mohou otevírat "negativní scénáře".
Zdůraznil potřebu preventivního působení a etické regulace, zastavení škodlivých a diskriminačních, sociálně nespravedlivých důsledků systémů umělé inteligence, potírání jejich využívání ke snižování plurality, polarizaci veřejného mínění nebo k budování jednotného myšlení.
"Znovu proto vyzývám společenství národů, aby - sjednocené - usilovalo o přijetí závazné mezinárodní smlouvy, která by regulovala vývoj a využívání umělé inteligence v jejích různých podobách," dodal. - František napsal.
"Výzvou, před kterou stojíme, je učinit kvalitativní skok, abychom se vyrovnali s komplexní, multietnickou, pluralitní, multináboženskou a multikulturní společností," řekl. - dodal.
Zdůraznil, že: "Digitální revoluce nás může učinit svobodnějšími, ale ne, pokud nás uvězní v modelech, které jsou dnes známé jako život v své bublině".
"V takových případech," poznamenal, "namísto toho, abychom zvyšovali pluralitu informací, riskujeme, že se ztratíme v anonymní bažině, která vyhovuje zájmům trhu nebo moci".
Hodnota žurnalistiky
Papež upozornil na zpravodajství o válkách a na "paralelní válku", která probíhá prostřednictvím dezinformačních kampaní.
"A myslím na to, kolik reportérů bylo zraněno nebo zabito v terénu, abychom mohli vidět to, co viděly jejich oči," - zdůraznil.
Podle jeho názoru může využití umělé inteligence pozitivně přispět k rozvoji komunikace, "pokud neznehodnotí roli žurnalistiky v této oblasti, ale naopak ji podpoří".
"Na jedné straně je tu přízrak nového otroctví, na druhé straně nabytí svobody; na jedné straně možnost podmínit myšlení všech několika málo lidmi, na druhé straně možnost všech podílet se na myšlenkovém procesu," uvedl. - napsal František.
"Je to člověk, kdo se rozhoduje, zda se stane potravou algoritmů, nebo zda bude své srdce krmit svobodou, bez níž nerosteme v moudrosti," - zdůraznil papež.
Pro přidání komentáře se musíš přihlásit nebo registrovat na signály.cz.