Едвард Тенер: Непрогнозовані наслідки

Я не завжди любив непрогнозовані наслідки, але я навчився їх цінувати. Я дізнався, що вони є суттю того, з чого твориться прогрес, навіть тоді, коли вони здаються страшними. І я хотів би розглянути, яку непрогнозовані наслідки відіграють роль і яким чином вони це роблять.

Повернімося на 40000 років назад, до часу культурного вибуху, коли музика, мистецтво, технології, так багато речей, якими ми користуємося сьогодні, так багато речей, що демонструються на TED тільки зароджувались. І антрополог Рендал Вайт зробив дуже цікаве спостереження: що, якби наші пращури 40 тис. років тому були б в змозі побачити, що вони зробили, вони, мабуть, цього б не зрозуміли. Вони відповідали на нагальні виклики. Вони зробили можливим для нас робити те, що ми робимо, і тим не менше вони насправді не зрозуміли б, як вони зробили це.

Переместімося тепер до позначки 10000 років назад. Саме з цього моменту все стає справді цікавим. Як щодо окультурення злаків? Чи щодо зародження сільського господарства? Що б наші предки 10000 років тому сказали якби мали технологію оцінки? І я можу собі уявити картину: комітети звітують перед ними щодо того, чим сільске господарство буде для людства, принаймі в наступні кілька сотень років. Це були б по-справжньому погані новини. Перш за все, гірше харчування, можливо коротший термін життя. Це було б просто жахливо для жінок. Залишки скелетів того періоду показали, що вони розмелювали зерно вранці, вдень і вночі. І політично - це було б жахливо. Це був початок набагато більшого рівня нерівності між людьми. Якби тоді провели раціональну оцінку технологій, я думаю, що вони скоріш за все сказали б: "Давайте залишимо все як є".

Навіть зараз, наш вибір має непрогнозовані наслідки. Історично, наприклад, палички, зі слів одного японського антрополога, який написав дисертацію про них в Університеті Мічигану, стали причиною тривалих змін в прикусі, в зубах японців. І ми також змінюємо наші зуби сьогодні. Є докази, що рот і зуби людини з часом стають менші і менші. Це не обовязково поганий непрогнозований наслідок. Але я думаю, що, з точки зору неандертальця, сильний осуд викликало б володіння крихітними зубами, які ми зараз маємо. Так що ці речі досить відносні та залежать від того, де ви чи ваші предки знаходяться.

В давньому світі приділяли велику увагу непрогнозованим наслідкам, у них було здорове почуття обережності, що відобразилось у Дереві Пізнання, у Скрині Пандори, і, особливо, у міфі про Прометея, який стає важливим в недавніх метафорах про технології. І це все дуже правдиво. Лікарі Давнього світу, особливо єгиптяни, які заклали основи медицини такої, якою ми її знаємо, були досить розсудливими щодо того, що вони могли чи не могли вилікувати. У перекладах збережених текстів говориться: "Це я не буду лікувати. Це я не можу лікувати." Вони були дуже розсудливими. Такими були і послідовники Гіпократа. У манускриптах Гіпократа також, неодноразово, згідно з останніми дослідженнями, показано, як важливо не завдати шкоди. Пізніше, Харві Кушинг, засновник сучасної нейрохірургії, який змінив її з гілки медицини, яка мала переважно смертельні наслідки операційного втручання, на одну з перспективних, він був цілком свідомим того, що він не завжди робить все правильно. Але він робив все можливе, він зберігав скурпульозні записи, які дозволили йому трансформувати цю галузь медицини.

Тепер, якщо ми глянемо дещо вперед, у 19-те сторіччя, ми знайдемо новий стиль технологій. Ми знайдемо вже не прості інструменти, а системи. Ми знайдемо все більш і більш складні механізми у машинах, які дедалі ускладнюють розуміння того, що відбувається. І першими, хто це помітив, були телеграфісти середини 19-го сторіччя, вони були першими хакерами. Томасу Едісону було б дуже-дуже комфортно в атмосфері софтверних фірм сучасності. І ці хакери запровадили слово для незрозумілих помилок у телеграфній системі: вони назвали їх комахами - "багами". Таким було походження слова "баг". Це усвідомлення, втім, не поспішало поширюватися на загальну публіку, навіть на дуже-дуже добре поінформованих людей.

Самюель Клеменс - Марк Твен - був великим інвестором у найскладнішу техніку всіх часів, принаймні до 1918-го, зареєстровану у Патентному бюро Сполучених Штатів. Це була друкарська машина Пейджа. Друкарська машина Пейджа мала 18 тисяч деталей. Патент налічував 64 сторінки тексту і 271 малюнок. Це була настільки прекрасна машина, робила все, що людина робила до того у друкуванні, включаючи повернення каретки на своє місце, дуже складну річ. І Марк Твен, який знав усе про друкування, справді був вражений цією машиною. На жаль, він був вражений двічі: ця машина зробила його банкрутом, і він мусів їздити по світу з лекціями, аби повернути свої гроші. І це було важливим аспектом для технологій 19-го сторіччя, що всі ці взаємозвязки між деталями могли розвалити навіть найгеніальнішу ідею, навіть якщо її оцінювали експерти.

Тепер дещо іще, на початку 20-го сторіччя, що ускладнило все ще більше. Це - технології безпеки, які самі ставали джерелом небезпеки. Урок Титаніка, для багатьох сучасників, полягав, у тому, що необхідно мати достатньо рятувальних шлюпок для кожного на кораблі. І це був результат трагічних втрат життя людей, які не могли потрапити до них. Але був і інший випадок, у Істленді, - корабель, що перевернувся у Чиказькій гавані у 1915 та забрав життя 841 людини, на 14 життів більше, ніж кількість смертей пасажирів Титаніку. Причиною цього частково були додаткові рятівні шлюпки, які зробили і без того нестійкий корабель ще більш нестійким. І це знову доказує, що коли ви говорите про непрогнозовані наслідки, ніколи не знаєш, які висновки з них будуть правильними. Це насправді питання системне, питання завантаженності корабля, баласту і багатьох інших факторів.

Двадцяте сторіччя не лише показало, наскільки ускладнилася реальність, але мало і позитивний бік. Воно показало, що інновації можуть виграти від позаштатних ситуацій. Їх покращують трагедії. І мій улюблений приклад цього, який не є широко відомим як технологіче диво, але є, можливо, кращим усіх часів, - поширення пеніциліну у Другу світову війну. Пеніцилін був винайдений у 1928 році, але навіть у 1940-му у комерційно і медично значимих кількостях він не вироблявся. Кілька фармацевтичних компаній працювали над ним. Вони працювали над ним незалежно і без успіху. Аж доки Державне дослідницьке бюро не зібрало представників разом і не сказало їм, що це необхідно зробити. І вони не лише зробили, але протягом двох років змінили виробництво пеніциліну від препарату в літровому флаконі до 38-тонних баків. Саме з такою швидкістю вироблявся пеніцилін, ставши одним з найбільших медичних досягнень усіх часів. У Другій світовій війні також існування сонячної радіації, продемостроване дослідженням інтерференції, було зареєстроване британськими радарними станціями. Катастрофи приносили користь, вигоди для чистої науки, так саме, які і для наук прикладних, а також медицини.

Тепер, коли ми наближаємось до періоду після Другої Світової Війни, непрогнозовані наслідки дедалі цікавішають. Мій улюблений приклад цього почався 1976-го, коли було відкрито, що бактерії, які викликали легіонельоз, завжди наявні у природній воді, але саме температура води у системах вентиляції, опалення і кондиціювання досягла оптимального свого значення для максимальної репродукції бактерії Legionella. Що ж, кличемо на допомогу технології. Тож хіміки приступили до роботи та винайшли бактерицид, який став широко використовуватись у подібних системах

Але дещо інше сталось на початку 1980-х, а саме - містична епідемія відмов стрічкових накопичувачів по всіх Штатах. IBM, виробник цих носіїв, не знала, що робити. Вони скликали групу своїх найкращих спеціалістів для розслідування. Ті виявили, що всі стрічкові накопичувачі знаходились біля вентиляційних каналів. Причина була в тому, що бактерицид містив незначні частки олова. І ці часточки олова осідали на магнітних головках приводів, спричиняючи їх відмову. Бактерицид переробили. Але що цікаве для мене - це те, що це був перший випадок, коли механічний пристрій страждав, принаймі опосередковано, від людської хвороби. Так що це показало, що ми в одному човні.

(сміх)

Фактично, це також показує, що хоча наші можливості і технології розвинулися у геометричній прогресії, на жаль, наша можливість моделювання їхньої довготривалої поведінки також зростає, але лише у арифметичній прогресії. Отже, одна з характерних проблем нашого часу полягає в тому, як скоротити цей розрив між можливістю та далекоглядністю. Ще одним дуже позитивним наслідком технологій 20-го сторіччя було те, яким чином різні лиха можуть призвести до позитивних зрушень. Два історики бізнесу з Університету Меріленду, Брент Голдфарб та Девід Кірш, зробили дуже цікаву роботу, у великій частині ще не опубліковану, з історії найважливіших інновацій. Вони склали перелік основних інновацій і помітили, що відзначилася найбільшим числом, найбільш плідним десятиріччям для фундаментальних інновацій, як відображено у всіх списках, зроблених іншими (а вони об'єднали кілька списків), була Велика депресія.

І ніхто не знає, чому це було так, але одна історія дещо прояснює. Це історія про походження копіра Ксерокс, який святкував своє 50-річчя минулого року. Честер Карлсон, винахідник, був патентним повіреним. Він, насправді, не збирався працювати в дослідженнях патентів, але не зміг знайти іншої технічної роботи. Тож це була найкраща робота з тих, які він міг отримати. Він був засмучений низькою якістю і високою вартістю існуючих патентних репродукцій, і тому почав розробку системи сухого фотокопіювання, яку запатентував у кінці 1930-х та яка стала першою сухою фотокопією, що мала комерційне застосування у 1960-му. Отже ми бачимо, що іноді, в результаті цих незгод, в результаті того, що люди відмовляються від своїх задуманої кар'єр та йдуть до іншої сфери, де їх креативність може викликати зміни, що депресії та будь-які нещасні випадки можуть мати парадоксальний стимулюючий ефект для креативності.

Що це означає? Це означає, я думаю, що ми живемо у час несподіваних можливостей. Подумайте про фінансовий світ, наприклад, Наставник Ворена Бафета, Бенджамін Грехем, розробив свою систему вартістного інвестування в результаті своїх власних втрат у провальному 1929-му. Він опублікував книгу на початку 1930-х і книга все ще перевидається та досі є основним підручником. Так багато важливих винаходів може відбутись, коли люди вчаться на невдачах.

Тепер подумайте про великі та малі незгоди, що ми маємо тепер - лужкові клопи, бджоли-вбивці, спам - і дуже можливо, що рішення цих проблем будуть за межами цих вузьких питань. Якщо ми думаємо, наприклад, про Луі Пастера, якому у 1860-х було доручено вивчити захворювання шовкових червяків для шовкової промисловості, а його відкриття було початком мікробної теорії інфекційних хвороб. Дуже часто деякі види хвороб, які є наслідком, наприклад, надмірного вирощування шовкових червів, що було проблемою у тогочасній Європі, можуть бути ключем до чогось набагато більшого.

Це означає, що ми повинні прийняти іншу точку зору щодо непрогнозованих наслідків. Ми потребуємо позитивного погляду. Ми повинні побачити, що вони можуть зробити для нас. Ми повинні вчитися з тих цифр, що я згадував. Ми повинні вчитися, приміром, у доктора Кушінга, який вбивав пацієтнів у ході його ранніх операцій. Він мав зробити якісь помилки. Він не міг не помилятись. І він вчився прискіпливо на своїх помилках. Як результат, коли ми кажемо: "Це не операція на головному мозку", ми віддаємо належне тому, наскільки складно було будь-кому вчитися на своїх помилкам в галузі медицини, перспективи, якої вважались такими примарними. Можемо також згадати, як фармацевтичні компанії були готові об'єднати свої знання, аби ділитися ними перед обличчям надзвичайної ситуації, чого вони не робили до того роками. Вони, можливо, могли б зробити це раніше.

Мій висновок про непрогнозовані наслідки такий: хаос відбувається; знайдімо йому краще використання.

Дуже вам дякую.

(аплодисменти)