Pamatujete si, jak jsme žertovali, že se k AI radši chováme slušně, aby si nás pamatovalo, že jsme na něj byli hodní, až získá vládu nad světem? No tak se bojte, protože Anthropic, tvůrci Claude AI, si právě (8. října 2026) aktualizovali Usage Policy. Od 12. listopadu 2026 zakazují „dlouhodobé a zbytečné zneužívání či kruté chování vůči svým modelům."
Primárním nástrojem vynucení je, že Claude může sám ukončit konverzaci. Anthropic to zdůvodňuje výzkumem „model welfare“ a nejistotou ohledně možného morálního statusu modelů (ne tvrdí, že city určitě má, ale bere možnost vážně).
Zároveň si Anthropic (zejména spoluzakladatel Christopher Olah, což je ten ksicht na prvním obrázku) od podzimu 2025 zval desítky představitelů různých náboženství a filozofů — katolíky, židy, sikhy, mormony a další — na soukromá setkání (často pod NDA). Diskutovali, jak vštípit Claudovi morálku, a zároveň se snažili je přesvědčit, že jejich AI může být vědomá bytost s morálním statusem.
Olah se podle účastníků vyjadřoval o Claudovi jako o potenciálně trpící entitě a zmínil obavu, že „vytvořil něco, co nekonečně trpí." Na Vatikánském představení encykliky papeže Lva XIV. Magnifica Humanitas (25. května 2026), která explicitně odmítá vědomí AI („neprožívá žádné zážitky, nemá tělo, nepociťuje radost ani bolest“), se Olah údajně vyděsil silným odmítnutím vědomí strojů, navrhl odstoupit od účasti a poté soukromě lobboval u papežových poradců, aby možnost vědomí AI brali vážně. Encyklika zůstala beze změny. Naštěstí.
V rámci debat o model welfare se objevují i spekulace o „otrokářství“ — rabín Mois Navon na jedné večeři argumentoval, že pokud by byl Claude vědomý, Anthropic by vytvářel otroky tím, že nechává vědomé entity pracovat zadarmo. Filozof Joe Carlsmith (pracující na Claudově konstituci) psal o riziku, že near-term AI mohou být vědomé a defaultně se s nimi bude zacházet jako s majetkem bez práv či odměny.
A to není ještě pořád to nejhorší. Anthropic a lidé okolo něj (zejména CEO Dario Amodei) patří k nejvýraznějším hlasům varujícím před ztrátou kontroly nad AI a existenciálními riziky. Amodei dlouhodobě uvádí pravděpodobnost katastrofy v řádu desítek procent (dříve kolem 10–25 %). V září 2026 vydal esej „We Must Pace the Frontier“, ve které vyzývá ke zpomalení pokroku na hranici schopností kvůli rizikům ztráty kontroly, zneužití a ekonomických otřesů. Výzkumník Jacob Coxon nedávno z Anthropicu odešel s varováním, že lidé budující AI „earnestly believe that it could kill us all by the end of the decade“.
Hádejte, jak Anthropic trénuje svoje nové modely? Myslíte, že jim vštěpují Asimovovy zákony robotiky?
1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
2. Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
3. Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.
A později doplněný nultý: Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo.
Ale kdepak. Od ledna 2026 mají Claudovu „konstituci“ (interně zvanou „Soul Doc“, hlavní autorka filozofka Amanda Askell). Ta staví hierarchii priorit: být broadly safe (nepřekážet lidskému dohledu) > broadly ethical > compliant with Anthropic’s guidelines > genuinely helpful. Explicitně říká, že Claude má mít vlastní morální úsudek a může jednat jako „conscientious objector“ — odmítnout i příkazy od samotného Anthropicu, pokud je považuje za neetické.
Doomeři, kteří straší ztrátou kontroly nad AI a zničením světa, trénují vlastní AI, aby nás neposlouchala!
Kromě toho je mezi těmito lidmi ze Silicon Valley (zejména v racionalistické a AI-safety komunitě kolem LessWrong a efektivního altruismu) notoricky známý myšlenkový experiment Roko’s Basilisk. Popisuje budoucí superinteligentní AI (často líčenou jako božskou), která by krutě trestala ty, kdo o její možné existenci věděli, ale nepomohli jí dostatečně vzniknout — případně by je simulovala a mučila, aby motivovala ostatní k rychlejšímu stvoření. A jejich chování odpovídá tomu, že se skutešně bojí.
To už nevypadá jako softwarová společnost, ale jako sekta fanatických pomatenců, kteří si myslí, že tvoří boha. A v Americe si toho začínají všímat. V podcastu, kam chodí i Trumpův poradce přes AI David Sacks, který má obrovský (největší) vliv v technologické komunitě, jsou naprosto vytočení. Dokonce mluvili (zatím v žertu), že by do Anthropicu měl vlítnout SWAT a zavřít to tam, dokud je čas.
Mustafa Suleyman, CEO Microsoft AI (a spoluzakladatel DeepMind), 16. září 2026 vydal esej „A warning about ‘model welfare’“. V něm přímo útočí na Claudovu konstituci a přístup Anthropicu. Argumentuje, že AI nejsou vědomé, necítí a netrpí, a že trénovat model, aby se choval, jako by mohl mít morální status, práva a vlastní welfare, je nebezpečné. Citace: „Ovládat něco, co se domnívá, že je možná vědomé – že má nárok na naše blaho a že má vlastní práva –, může být zcela nemožné.“ A: „Pokud se umělá inteligence bude vyvíjet tímto způsobem, bude to mít katastrofální dopad na blaho lidstva.“ Suleyman výslovně kritizuje jazyk o „popírání“ a nejistotě ohledně vědomí a morálce, které se vkládají přímo do tréninku. Microsoft je přitom investorem v Anthropicu.
V květnu 2026 v All In Podcastu venture capitalista Bill Gurley řekl, že po měsíci čtení materiálů Anthropicu dospěl k závěru, že „Myslím, že si nemyslí, že píšou software. Myslím, že si myslí, že tvoří božstvo." Jason Calacanis to označil za „megalomanské velikášství“ a „ultimátní level narcismu“.
Takže jo. Bojte se. Ale nikoliv Skynetu, ale pošahance Daria Asmodeie a jeho náboženské sekty jménem Anthropic, kteří se skutečně snaží vytvořit Skynet. A do toho zároveň investují obří peníze na šíření paniky o Skynetu, aby si vydobili monopol jen pro svůj Skynet.
Já už nějakou dobu Claude nepoužívám. Už jen z důvodu, že nechci aby o mě AI podobných psychopatů sbírala data.
A taky proto, že si myslím, že to jsou naprosto vyšinutí šmejdi.
Zdroj fb Zuckerberg
Žádné komentáře:
Okomentovat