To už tu bylo

Thamus a Theuth — první kritik nové technologie

Kolem roku 370 př.n.l. napsal Platón dialog Faidros. Uprostřed rozhovoru o lásce, duši a rétorice vloží zdánlivě nesouvisející příběh: egyptský faraon Thamus a vynálezce Theuth.

Theuth přichází za faraonem Thamem s pyšným oznámením: vynalezl písmo. Prohlašuje, že tento dar posílí paměť Egypťanů a udělá z nich moudřejší lidi. Thamus odpovídá odmítnutím:

„Tento tvůj vynález způsobí zapomínání v myslích těch, kdo se to naučí používat, protože nebudou cvičit paměť. Jejich důvěra v psaní, produkovaná vnějšími znaky, odradí použití vlastní paměti. Nevynalezl jsi elixír paměti, ale připomínání; a nabízíš svým žákům zdání moudrosti, nikoli pravou moudrost."

— Platón, Faidros 274e–275a

Thamus se mýlil — nebo se mýlil jen částečně? Písmo skutečně oslabilo memorování. Řečtí filozofové se skutečně učili celé Homérovy eposy nazpaměť — po rozšíření knih tato tradice zanikla. Zároveň písmo umožnilo vědu, historii a kulturu v rozsahu, který žádná paměť nedokáže pojmout.

Proč je příběh relevantní

Thamus nevěděl, co popisuje. Myslel si, že kritizuje konkrétní vynález — písmo. Ve skutečnosti formuloval kritiku, kterou bude každá generace opakovat o každé nové technologii. Vzorec je starý jako civilizace.

Každá éra řekla totéž

Historie technologické kritiky je překvapivě uniformní. Strach z nové technologie, která „zničí myšlení" nebo „odlidští společnost", se opakuje s každou generací:

Tisk (1440)

Gutenbergův tiskařský lis byl kritizován jako hrozba pro tradiční vzdělání. Rukopisy psané mnichy v klášterech byly považovány za autentické — tisknuté knihy za levnou kopii bez duše. Humanista Hieronymus Squarciafico v roce 1477 varoval, že snadný přístup ke knihám způsobí „přemíru knih" a povede k „línosti mysli".

Rádio (1920s)

Rozhlas byl kritizován jako médium, které zničí rodinný rozhovor a soustředění. Lee De Forest, jeden z průkopníků rádia, v roce 1926 prohlásil: „Rádio, jak ho dnes vidím, je beznadějný a nestoudný komerční produkt, jehož zprávy a hudba jsou jednou velkou reklamu."

Televize (1950s–60s)

Televize dostala přezdívku „idiotská bedna" (idiot box). Psychologové varovali před pasivitou, zkrácením pozornosti u dětí a ztrátou schopnosti číst. Studie z 60. let předpovídaly kolaps gramotnosti. K tomu nedošlo — gramotnost naopak globálně vzrostla.

Internet (1995)

Clifford Stoll publikoval v roce 1995 bestseller Silicon Snake Oil, kde argumentoval, že internet je jen krátkodobá móda bez skutečného vzdělávacího nebo ekonomického potenciálu. O rok dříve napsal v Newsweeku: „Učitelé nebudou nahrazeni, obchody nezmizí, noviny nezemřou." Internet tehdy skutečně ještě nebyl tím, čím se stal — ale Stollův skepticismus byl fundamentálně špatný v tom, co přijde.

SCIgen: Když nesmysl prošel recenzním řízením

Rok 2005. MIT CSAIL — Computer Science and Artificial Intelligence Laboratory. Jeremy Stribling, Max Aguayo a Dan Krohn si položili otázku: jak moc jsou vědecké konference schopné odfiltrovat nesmysl, pokud vypadá věrohodně?

Nápad a implementace

Vytvořili program SCIgen — generátor vědeckých textů, který kombinoval skutečná slova z oblasti informatiky do gramaticky správných, ale sémanticky prázdných vět. Výsledek vypadal jako skutečný vědecký článek: měl abstrakt, úvod, sekce s výsledky, grafy, bibliografii.

Vygenerovali článek s názvem „Rooter: A Methodology for the Evaluation of MTBFs". MTBF znamená Mean Time Between Failures — legitimní termín z oblasti spolehlivosti systémů. Samotný článek byl kompletní nesmysl.

Odeslání na konferenci

Odeslali článek na World Multiconference on Systemics, Cybernetics and Informatics (WMSCI 2005) v Orlandu. Konference přijímala články v systému „peer review" — tedy s odborným posuzováním. Článek byl přijat.

Stribling a Aguayo vybrali přes internet na cestu do Orlandu, přijeli a přednášeli nesmyslný článek. Pořadatelé je po pár minutách přednášky zastavili — ale pozdě. Případ se stal mediálně virálním.

Dlouhodobý dopad

SCIgen je stále dostupný online a od roku 2005 se odhaduje, že přes 120 článků generovaných tímto nástrojem prošlo recenzním řízením a bylo publikováno ve vědeckých časopisech nebo sbornících konferencí. IEEE a Springer v roce 2014 stáhly stovky takových článků.

SCIgen je stále dostupný online a fungující: pdos.csail.mit.edu/archive/scigen/ — vygenerujte článek sami a sledujte výsledek.

AlphaFold: 50 let čekal problém na řešení

Protein folding problem — jak se bílkovina složí ze svého aminokyselinového řetězce do trojrozměrné funkční struktury — byl otevřený vědecký problém od roku 1972. Anfinsenova hypotéza říkala, že struktura bílkoviny je zcela určena její aminokyselinovou sekvencí. Ale jak tuto strukturu předpovědět?

50 let výzkumu

CASP — Critical Assessment of protein Structure Prediction — byla soutěž organizovaná od roku 1994, kde výzkumné týmy soutěžily v přesnosti predikce struktur bílkovin. Po 25 let byly pokroky postupné, inkrementální. Nejlepší metody dosahovaly skóre přibližně 40–50 bodů na 100bodové škále GDT (Global Distance Test).

DeepMind 2018 — první AlphaFold

DeepMind vstoupil do CASP soutěže v roce 2018 s prvním AlphaFoldem. Výsledky byly dobré — lepší než předchozí metody — ale ne průlomové. Tým pracoval dál.

AlphaFold 2 — 2020

Na soutěži CASP14 v roce 2020 AlphaFold 2 dosáhl průměrného skóre 92.4 GDT. Soutěžící i organizátoři soutěže popsali výsledek jako „šokující". Předchozí nejlepší metoda dosahovala přibližně 75 GDT.

Jak AlphaFold funguje (Feynmanova verze)

AlphaFold 2 používá transformer architekturu — stejný princip jako jazykové modely — ale trénovanou na strukturách bílkovin. Klíčový vhled: bílkovina je jako jazyk, kde aminokyseliny jsou „slova" a jejich prostorové uspořádání je „gramatika".

Síť se naučila vzory z databáze Protein Data Bank, která obsahuje experimentálně určené struktury od roku 1971. Pak dokáže predikovat struktury bílkovin, které nikdo experimentálně nezměřil.

Nobelova cena za chemii 2024

V říjnu 2024 Švédská královská akademie věd udělila Nobelovu cenu za chemii Demisi Hassabisovi a Johnovi Jumperovi z DeepMind za vývoj AlphaFoldu, a Davidu Bakerovi za computační design nových bílkovin.

AI v matematice: IMO 2024

Matematika byla dlouho považována za oblast, kde stroje nemohou nahradit lidskou kreativitu. Dokázat matematickou větu vyžaduje intuici, hledání nových přístupů, schopnost vidět strukturu problému — ne jen aplikovat pravidla.

Mezinárodní matematická olympiáda

IMO — International Mathematical Olympiad — je nejprestižnější soutěž pro středoškoláky v matematice. Šest úloh za dva dny, každá řešitelná bez výpočetní techniky, ale vyžadující důmyslné matematické uvažování.

Zlatá medaile typicky vyžaduje alespoň 4 úlohy, stříbrná 2–3. Výsledky jsou veřejně ověřitelné — každý důkaz musí být správný krok za krokem.

AlphaProof + AlphaGeometry 2 (2024)

V červenci 2024 Google DeepMind oznámil výsledky systémů AlphaProof a AlphaGeometry 2 na úlohách IMO 2024. Systémy dohromady vyřešily 4 ze 6 úloh — ekvivalent stříbrné medaile.

AlphaProof pracuje v jazyce Lean — formálním systému pro psaní matematických důkazů, kde každý krok musí být logicky správný. Výstupy tedy nelze „halucinovat" — buď je důkaz správný, nebo selže verifikace.

Knuthův symbol: Donald Knuth — autor The Art of Computer Programming — je symbolem toho, co znamená hluboká, pečlivá matematická práce. TAOCP je dílo, na kterém pracoval přes 60 let a stále není dokončeno. Knuth je přesvědčen, že kvalita matematické myšlenky nelze urychlit.

IMO 2024 výsledek:
4/6 úloh vyřešeno · Stříbrná medaile ekvivalent.
Každý důkaz formálně verifikován v Lean.

Co to znamená

Matematika přestává být oblastí, kde AI nemůže přispět. Ale pozor na interpretaci: AlphaProof nenahrazuje matematiky — pomáhá ověřovat a hledat důkazy. Je to nástroj, ne náhrada za matematické porozumění.

Lean proof assistants — formální jazyky pro matematické důkazy — existují od 80. let a pomáhají matematikům ověřovat komplexní důkazy. AI nyní umí v těchto systémech pracovat autonomněji.

Co je tedy jiné?

Thamus i Clifford Stoll měli v něčem pravdu. SCIgen ukazuje skutečné nebezpečí. AlphaFold ukazuje skutečný potenciál. Jak v tom žít?

Co je stejné jako vždy

Lidská tendence k přehánění — na obě strany. Panika, že technologie „zničí myšlení", i bezhlavé nadšení, že „AI vyřeší všechno". Strach z ztráty pracovních míst, který se opakuje od průmyslové revoluce. Přesvědčení, že právě tato generace žije v jedinečném historickém momentu (vždy je pravda, nikdy ne tak, jak si myslíme).

Co je skutečně jiné

Škála. AlphaFold zpřístupnil struktury 200 milionů bílkovin — celkový počet experimentálně určených struktur byl před ním přibližně 170 000. Tohle není iterativní zlepšení, je to skok o 3 řády.

Přesvědčivost. SCIgen byl náhodný generátor. Dnešní LLM jsou trénované na obrovských množstvích textu a jejich výstupy jsou daleko přesvědčivější — a tedy nebezpečnější, pokud jim věříme nekriticky.

Dostupnost. AlphaFold database je zdarma přístupná komukoli. ChatGPT je dostupný na telefonu. Nástroje pro generování deepfakes jsou zdarma. Demokratizace technologie jde oběma směry.

„První princip je, že sám sebe nesmíte oklamat — a sami sebe oklamáte nejsnáze."

— Richard Feynman, Caltech 1974

Kde se o tom dozvědět víc

Primární zdroje

• Text Platón: Faidros — dialog o písmu, paměti a moudrosti (~370 př.n.l.)
• Paper Stribling, Aguayo, Krohn: SCIgen — An Automatic CS Paper Generator — MIT CSAIL, 2005
• Paper Jumper et al.: Highly accurate protein structure prediction with AlphaFold — Nature, 2021
• Press Nobel Prize in Chemistry 2024 — Hassabis, Jumper, Baker
• Blog Google DeepMind: AI achieves silver-medal standard solving International Mathematical Olympiad problems — 2024

Doporučené čtení

• Kniha Neil Postman: Technopoly: The Surrender of Culture to Technology (1992) — systematická kritika technologického optimismu
• Kniha Clifford Stoll: Silicon Snake Oil (1995) — příklad správné skepse ve špatný čas
• Video 3Blue1Brown: But what is a neural network? — nejlepší vysvětlení jak fungují neurální sítě
• Wiki Protein folding — Wikipedia — historický kontext problému