Etika využití umělé inteligence (nejen) ve válce

Cílem této hodiny je pomoci žákům lépe pochopit, jaké etické otázky vyvstávají při nasazení AI, zejména ve vojenském prostředí. Chci žákům ukázat, jak AI může pomáhat, ale také je varovat před riziky, pokud nad ní ztratíme kontrolu. 

AI drony v roce 2024

Představte si drony, které fungují bez lidského zásahu díky pokročilým AI algoritmům. Ty umožňují dronu samostatně navigovat a vyhýbat se překážkám. Toto není filmová sci-fi ale realita roku 2024. 

Firmy jako Skydio či Shield AI vyvíjejí autonomní drony pro natáčení, inspekce staveb a dokonce i pro vojenské mise. AI drona schopného “lovit” jiné drony představilo  i naše ČVUT. Tato inteligentní zařízení umí samostatně vyhodnotit situaci a jednat bez lidského zásahu. 

Tam, kde dříve působil člověk, často v rizikových situacích, je nyní nasazena umělá inteligence. Je to v pořádku? Je to morální? Asi si tu všichni odpovíme, že ano. Co když ale k takovému dronu připevníme výbušninu a stisknutí spouště svěříme umělé inteligenci? 

Co je to autonomní AI

Autonomní AI je umělá inteligence, která dokáže sama vykonávat úkoly bez toho, aby ji lidé museli přímo řídit. Používá k tomu data a své algoritmy, díky kterým může například ovládat dron nebo auto, rozhodovat se, kam jet, co udělat, a přitom reagovat na okolí zcela samostatně.

Zabije nebo zachrání?

Pokud omezím AI v dronech jen proto, že se mi to nelíbí, můžu si být jistý, že to udělá i můj protivník? 

Takové morální otázky si možná klademe my, běžní občané. Realita války je však jiná. Ukrajinští a ruští vojáci používají v právě probíhajícím konfliktu na Ukrajině drony denně. Autonomní drony ovládané částečně či plně AI jsou v procesu testování a postupného nasazení do bojů.

Vojenský důstojník Robert Brovdi v níže odkazovaném článku předpovídá: 

Hrozivá budoucnost je blízko. Za půl roku budou drony bojovat bez lidí

„V současnosti se najednou vyvíjejí stovky systémů umělé inteligence, které se testují v experimentálním režimu. Za šest měsíců už piloti nebudou potřební. Budou potřeba lidé, kteří zvednou dron metr nad zem. A pak se dron sám, v závislosti na svém vývoji, rozhodne, na co zaútočí nebo jak rozeznat žigulik od tanku. Rozhodně si nebude zaměňovat Ukrajince s nepřítelem,“ řekl Brovdi.

Dodal, že to povede k tomu, že umělá inteligence bude hlavním nástrojem na bojišti. Už nyní se padesát procent útoků provádí drony.

DENÍK N. Vývoj bojů (945. den): Hrozivá budoucnost je blízko. Za půl roku budou drony bojovat bez lidí, říká ukrajinský důstojník. Online. 2024. Dostupné z: https://denikn.cz/1535458/vyvoj-boju-945-den-hroziva-budoucnost-je-blizko-za-pul-roku-budou-drony-bojovat-bez-lidi-rika-ukrajinsky-dustojnik/. [cit. 2024-10-07].

Co s tím ve výuce? Práce v hodině a diskuze

Umělá inteligence a její možné zneužití jsou dlouhodobým tématem sci-fi filmů. Filmy jako Terminator nebo Matrix varují před tím, že AI může získat kontrolu nad vojenskými systémy a přerůst své tvůrce. Avengers: Age of Ultron zase ukazuje, jak se AI může pokusit zničit lidstvo, pokud dospěje k závěru, že jsme hrozbou. Tyto příklady mohou posloužit jako odrazový můstek k diskuzi o rizicích autonomní technologie ve skutečném světě.

Hrozby AI v popkultuře

Pro diskuzi s žáky by se vám mohly hodit tyto filmové ukázky: 

Terminator

Kultovní klasika Terminátor z roku 1984 přinesla divákům postavu Skynetu, umělé inteligence vytvořené pro obranné účely, která se však vymkla kontrole a stala se hrozbou pro celé lidstvo. I když je Terminátor pro dnešní mladou generaci spíše “filmem pro pamětníky”, jeho klíčové téma zůstává aktuální. 

• Začal bych vysvětlením vzniku Skynet AI: The Genesis of Skynet [Terminator 2]. 
• A pokud máte víc času, tak pokračujte i scénou útoku AI dronů (pozor, ukázka obsahuje boj a zabíjení, nevhodné pro mladší žáky) Hunter-Killer drones — Terminator.  

Obrázek

Podobné motivy o autonomní umělé inteligenci najdeme i ve filmech, které jsou dnešní generaci bližší.

Matrix

Ve filmu Matrix (1999) se umělá inteligence vzbouří proti lidstvu a vytvoří simulovanou realitu, aby lidé žili v iluzi, zatímco jejich těla slouží jako zdroj energie pro stroje.

• Matrix — Neo se dozví pravdu o Matrixu. 

Avengers: Age of Ultron

Podobný scénář se odehrává v Avengers: Age of Ultron  (2015), kde postava Ultrona, robota s umělou inteligencí, získá vlastní vědomí a rozhodne se chránit Zemi tím, že zničí lidstvo. Ultron, navržený jako mírová ochrana planety, dospěje k závěru, že největší hrozbou pro svět jsou sami lidé, a tak se rozhodne, že musí být eliminováni.

• Marvel’s War Machine: Age of Ultron Combat Scenes. 

Aby bylo téma autonomní AI přístupnější a atraktivnější pro dnešní patnáctileté žáky, můžete doplnit příklady z herního světa a online prostředí, které jsou jim blízké.

Hra “Call of Duty: Modern Warfare” (Warzone)

Ve hře jsou často používány drony a další autonomní zbraně. 

Hra “Horizon Zero Dawn”

Ve hře existují roboti s umělou inteligencí, kteří se dokáží samostatně vyvíjet a bojovat. Žáci mohou porovnávat herní scénáře s aktuálními technologiemi autonomních zbraní a zamyslet se nad tím, jak blízko nebo daleko jsme od toho, aby podobní roboti existovali v reálném světě.

Smutná realita současnosti

Jenže nežijeme ve filmové fikci. AI autonomní drony jsou realitou dneška. K ukázkám z sci-fi filmů je proto vhodné přečíst výše uvedenou citací z českého deníku nebo z článku agentury Reuters: Ukraine rushes to create AI-enabled war drones a vše doplnit krátkým videem AI-enabled war drones the new weapon for Ukraine | REUTERS. 

Jaké důvody jsou nejčastěji uvedeny pro podporu autonomních AI dronů? Pokud vaši žáci nevládnou angličtinou nebo se nedostanete za paywall některých deníků, vypsal jsem tu pro vás hlavní argumenty. 

Výhody vojenských dronů s umělou inteligencí

• Efektivita a přesnost: AI drony mohou zvýšit efektivitu vojenských útoků a minimalizovat ztráty na životech operátorů. Podle ukrajinských vývojářů by takové drony mohly vyřešit nedostatek lidských vojáků na frontě.
• Odolnost vůči rušení: AI drony jsou schopny pokračovat v misi i po ztrátě spojení s operátorem, čímž se snižuje jejich zranitelnost vůči rušičkám, které často používají nepřátelé.
• Samostatné rozhodování: Pokročilá AI umožní dronům rozeznávat různé typy cílů a samostatně rozhodovat o útocích, což zrychlí reakci na situaci na bojišti.
• Nejsou zatíženy emocemi: AI drony nejsou ovlivněny stresem či morálními dilematy, které mohou zpomalit lidské rozhodování. Jednají rychle a přesně na základě algoritmů, což zvyšuje efektivitu na bojišti.

Tyto body ukazují, že autonomní drony mohou výrazně přispět k záchraně lidských životů a k rychlejšímu ukončení válečného konfliktu.

Jenže co když to ne všichni vidíme stejně… 

Nevýhody vojenských dronů s umělou inteligencí

• Chybovost při identifikaci cílů: Ne vždy se AI podaří správně rozlišit přátelské síly od nepřátelských. Tato nejasnost může vést k nechtěným ztrátám na životech.
• Etické otázky: Mnoho lidí se obává, že odstranění lidského faktoru z rozhodování o životě a smrti je morálně problematické. Existuje riziko, že drony budou chybně vyhodnocovat situace a napadat civilní cíle (např. školy či nemocnice).
• Zneužití: Levné AI drony by mohly snadno získat teroristické organizace nebo rebelové, což by vedlo k jejich nekontrolovanému použití.

Skupinová diskuze

Rozdělte žáky do skupin a diskutujte o následujících tvrzeních:

1. „Drony s umělou inteligencí by měly být vždy řízeny člověkem, aby bylo zajištěno, že nebudou útočit bez rozmyslu.“
2. „Bezpilotní bojová technika je budoucnost války a může zachránit mnoho životů.“

SWOT analýza využití dronů s AI ve válce

Rozdělte žáky do čtyř skupin, přičemž každá skupina bude zpracovávat jeden z prvků SWOT analýzy. Každá skupina dostane zadaný aspekt (S, W, O, T) a bude mít 10–15 minut na to, aby se zamyslela nad tím, jak využití dronů s umělou inteligencí ovlivňuje vojenské konflikty. Při rozboru zohledněte informace z předchozích částí (výhody, nevýhody, etické otázky).

Skupina 1: Silné stránky (Strengths)

• Jaké jsou největší přínosy využití AI dronů ve válce? Mohou zlepšit bezpečnost vojáků?
• Mohou AI drony pomoci snížit lidské oběti na bojišti?

Skupina 2: Slabé stránky (Weaknesses)

• Jaké jsou hlavní nevýhody AI dronů? Co je nejvíce problematické na jejich používání?
• Přemýšlejte, co by se mohlo stát, pokud AI dron udělá chybu. Jaké by mohly být následky?

Skupina 3: Příležitosti (Opportunities)

• Jak se mohou technologie vyvinuté pro armádu využít i v běžném životě, například ve vědě nebo průmyslu?
• Jaké nové pracovní příležitosti nebo odvětví by mohly vzniknout díky rozvoji AI technologií?

Skupina 4: Hrozby (Threats)

• Jaká rizika spojená s využitím AI dronů existují? Mohou být zneužity teroristickými organizacemi?
• Jaké jsou dlouhodobé důsledky autonomních vojenských dronů pro mezinárodní bezpečnost?

Prezentace a diskuze

Každá skupina představí výsledky svého brainstormingu před třídou. Následuje diskuze:

• Jaké etické otázky vyvstávají při srovnání výhod a rizik AI dronů?

Regulace vojenské AI

Některé země a organizace (např. OSN) se snaží prosadit regulaci vojenského využití AI. Na konci hodiny společně diskutujte, jaká pravidla by měla být podle vás nejdůležitější a jak by je mělo upravit mezinárodní právo.

• Měla by existovat mezinárodní dohoda, která zakáže zbraně plně ovládané AI?
• Diskutujte, jaké prvky by taková regulace měla obsahovat. 

Reflexe

Navrhuji následující otázky pro závěrečnou reflexi. Téma je náročné, takže nečekám, že stihnete pokrýt všechny. Vyberte ty, které nejlépe odpovídají věku a dovednostem vašich žáků.

1. Jak se váš postoj k AI změnil během této aktivity a co vás nejvíce překvapilo nebo zasáhlo?
2. Kde byste vy osobně stanovili hranici mezi technologií, která pomáhá, a technologií, která by mohla být pro společnost nebezpečná?
3. Jak by měla společnost a vlády regulovat používání těchto technologií? Myslíte si, že současné zákony a pravidla jsou dostatečné?

Závěrem

I když je AI schopna zpracovávat data rychleji a efektivněji než lidé, stále jí chybí schopnost chápat svět v jeho hlubších, duchovních a morálních souvislostech.

Existují oblasti lidské zkušenosti, které nelze automatizovat – věci jako kreativita, empatie a láska zůstávají výhradně lidské. Zatímco AI může analyzovat vzorce, nedokáže nést morální odpovědnost za svá rozhodnutí. Technologie jsou jen nástrojem, ale lidskost a naše schopnost chápat svět jako celek zůstávají nenahraditelné.

Když se od AI vrátím k technice obecně, platí, že budoucnost je fascinující. Avšak vývoj by měl být vždy zaměřen na prospěch lidstva a odrážet etické aspekty a zásady jako je transparentnost, vysvětlitelnost a odpovědnost.

O tom je nutné s žáky začít mluvit už na základní škole.