Zatímco v Číně se stalo elektronické rozpoznávání obličejů z kamerových záznamů základním stavebním kamenem občanského kreditového systému, ve Spojených státech se nyní objevila první vlaštovka, která jde přesně opačnou cestou. Zastupitelé San Francisca na území města zakázali, aby úřady takové inteligentní kamerové systémy nakupovaly nebo zaváděly.
Zatímco v demokratických státech policie a zpravodajské služby používají kamerové systémy k boji proti závažnému zločinu, v totalitních státech jako je Čína se kamera s rozpoznáváním obličeje používá k odměňování a trestání občanů za banální přestupky. A tam přesně míří zákaz sanfranciských zastupitelů. Chtějí mít kontrolu nad tím, kdo a proč takový systém za městské peníze provozuje.
Mimochodem systém identifikace obličeje není 100procentní, dokonce se chová poněkud rasisticky. Avšak jen kvůli banálnímu technickému důvodu. Tmavší kůže na obličeji je ve videu obvykle špatně exponovaná. Obličej je tak příliš tmavý a ztrácejí se v něm klíčové rysy tváře, které by vedly ke spolehlivé identifikaci.
Rozpoznávání obličejů nejde dohromady se zdravou demokracií
"Technologie rozpoznávání obličejů nejde dohromady se zdravou demokracií," citujme jednoho z navrhovatelů zákazu. Na druhé straně stojí lobby výrobců kamerových systémů, datových úložišť a softwaru, který analýzu obrazu provádí. A také policie, která by nejraději měla kamery s rozpoznáváním obličejů na každém rohu.
Nacházíme na křižovatce, zda se vydat cestou Velkého bratra a nechat nejen policii, ale třeba rovnou dopravní podniky dělat svou práci jednodušeji skrze nejchytřejší kamerové technologie. Černý pasažér bude odhalen třeba už na zastávce autobusu a přivolá revizory nebo policii. V těchto měsících a letech se tedy nejhorší noční můry ochránců soukromí, kteří kritizovali zavádění už samotných kamerových systémů přeměnily v něco naprosto nevídaného.
Co kdybychom se vydali cestou svobody jednotlivce, který má právo na soukromí a tedy i potenciálně na protiprávní činnost. Dotyčného bude muset někdo přistihnout při činu a chytit za ruku. Určitě by neměl nikdo, ani preventivně, natožpak preemptivně identifikovat konkrétní lidi automaticky. Už vůbec ne pomocí softwaru pro obrazovou analýzu a už vůbec ne mimo policii, která k tomu má zákonné zmocnění, ale také zákonnou kontrolu.
Mohli bychom se totiž z Orwellova Velkého bratra dostat skokem do jiného, ještě strašidelnějšího filmového scénáře filmu Minority report. Ve fiktivním Washingtonu roku 2054 se zločin trestá ještě dříve, než se stane. Protože tamní software vyhodnocuje přímo vaše myšlení a potrestá vás při myšlence na sebemenší zločin.
Když se kamery zaměří na obličeje a chůzi
Zatím jsou programy na rozpoznávání obličejů velmi neohrabané, ne zcela úspěšné a jsou ve fázi učení. Když vás systém začne neomylně rozpoznávat podle obličeje, stylu chůze a další algoritmy začnou vyhodnocovat, kde se objevíte nebo co se chystáte udělat, mohli bychom být ztraceni.
Pojďme pečlivě zvažovat a otevřeně informovat o tom, jak hluboko do našeho soukromí může rozpoznávání identity v kamerových záznamech zasáhnout. A jak a zda budeme kontrolovat ty, kteří do těchto systémů budou investovat veřejné, tedy naše vlastní peníze. U moudrých zastupitelů v San Franciscu leží inspirace.
Zatímco v demokratických státech policie a zpravodajské služby používají kamerové systémy k boji proti závažnému zločinu, v totalitních státech jako je Čína se kamera s rozpoznáváním obličeje používá k odměňování a trestání občanů za banální přestupky. A tam přesně míří zákaz sanfranciských zastupitelů. Chtějí mít kontrolu nad tím, kdo a proč takový systém za městské peníze provozuje.
Mimochodem systém identifikace obličeje není 100procentní, dokonce se chová poněkud rasisticky. Avšak jen kvůli banálnímu technickému důvodu. Tmavší kůže na obličeji je ve videu obvykle špatně exponovaná. Obličej je tak příliš tmavý a ztrácejí se v něm klíčové rysy tváře, které by vedly ke spolehlivé identifikaci.
Rozpoznávání obličejů nejde dohromady se zdravou demokracií
"Technologie rozpoznávání obličejů nejde dohromady se zdravou demokracií," citujme jednoho z navrhovatelů zákazu. Na druhé straně stojí lobby výrobců kamerových systémů, datových úložišť a softwaru, který analýzu obrazu provádí. A také policie, která by nejraději měla kamery s rozpoznáváním obličejů na každém rohu.
Nacházíme na křižovatce, zda se vydat cestou Velkého bratra a nechat nejen policii, ale třeba rovnou dopravní podniky dělat svou práci jednodušeji skrze nejchytřejší kamerové technologie. Černý pasažér bude odhalen třeba už na zastávce autobusu a přivolá revizory nebo policii. V těchto měsících a letech se tedy nejhorší noční můry ochránců soukromí, kteří kritizovali zavádění už samotných kamerových systémů přeměnily v něco naprosto nevídaného.
Co kdybychom se vydali cestou svobody jednotlivce, který má právo na soukromí a tedy i potenciálně na protiprávní činnost. Dotyčného bude muset někdo přistihnout při činu a chytit za ruku. Určitě by neměl nikdo, ani preventivně, natožpak preemptivně identifikovat konkrétní lidi automaticky. Už vůbec ne pomocí softwaru pro obrazovou analýzu a už vůbec ne mimo policii, která k tomu má zákonné zmocnění, ale také zákonnou kontrolu.
Mohli bychom se totiž z Orwellova Velkého bratra dostat skokem do jiného, ještě strašidelnějšího filmového scénáře filmu Minority report. Ve fiktivním Washingtonu roku 2054 se zločin trestá ještě dříve, než se stane. Protože tamní software vyhodnocuje přímo vaše myšlení a potrestá vás při myšlence na sebemenší zločin.
Když se kamery zaměří na obličeje a chůzi
Zatím jsou programy na rozpoznávání obličejů velmi neohrabané, ne zcela úspěšné a jsou ve fázi učení. Když vás systém začne neomylně rozpoznávat podle obličeje, stylu chůze a další algoritmy začnou vyhodnocovat, kde se objevíte nebo co se chystáte udělat, mohli bychom být ztraceni.
Pojďme pečlivě zvažovat a otevřeně informovat o tom, jak hluboko do našeho soukromí může rozpoznávání identity v kamerových záznamech zasáhnout. A jak a zda budeme kontrolovat ty, kteří do těchto systémů budou investovat veřejné, tedy naše vlastní peníze. U moudrých zastupitelů v San Franciscu leží inspirace.
Žádné komentáře:
Okomentovat