Розрив між можливістю й розумінням
Можливість і розуміння не зростають разом. Можливість майже завжди йде першою — її легше перевірити, продати й побачити. Проміжок між ними не є катастрофою, але поводиться як борг: чим пізніше до нього беруться, тим дорожче він обходиться.
Можливість — це те, що цивілізація вже здатна зробити. Розуміння — те, наскільки добре вона розуміє предмет свого втручання, його наслідки й середовище, у якому це втручання діятиме.
Ці дві величини вимірюються по-різному й фінансуються по-різному. Можливість дає результат, який можна показати, повторити й продати. Розуміння дає уточнення, яке часто виглядає як ускладнення. Тому в будь-якій системі стимулів, де ресурси йдуть за видимим результатом, можливість систематично виривається вперед.
Борг, а не загроза
Ми свідомо описуємо розрив у логіці боргу. Аналогія — технічний борг у програмуванні: швидке нарощування можливостей дозволяє відкласти складну роботу, але не скасовує її. Борг накопичується в праві, етиці, психології, соціології, політиці.
Відсотки тут не метафоричні. Питання, до якого суспільство береться після того, як технологія стала фактом, вирішується під тиском, поспіхом і за наявності сформованих інтересів. Те саме питання, поставлене на десять років раніше, вирішується спокійно й дешево.
Розрив — це не аргумент проти технологій. Це рахунок, який уже виставлено.
Чотири приклади, які є одним прикладом
- Інтелект
- Ми будуємо системи, що демонструють дедалі складнішу поведінку, не маючи ані загальноприйнятої теорії свідомості, ані тесту, який дозволив би встановити наявність суб’єктивного досвіду в іншій системі. Питання про моральний статус таких систем виникає раніше, ніж апарат, здатний на нього відповісти.
- Біологія
- Редагування спадкової лінії людини технічно можливе. Моральні поняття, якими ми це оцінюємо — автономія, зважування користі й шкоди, гідність, — сформульовані у світі без генетики, обчислювальних машин і уявлення про спадковість.
- Інформаційне середовище
- Системи, що впливають на увагу мільярдів людей, змінили політику, довіру й колективну поведінку раніше, ніж з’явилася наука, здатна описати цей вплив із потрібною точністю.
- Інституції
- Шлюб, освіта, трудовий договір, громадянство успадкували архітектуру попередніх епох. Суспільство регулярно розширює доступ до цих конструкцій, майже ніколи не питаючи, чи правильна сама конструкція.
Спокуса — прочитати це як чотири окремі проблеми чотирьох різних галузей. Наше твердження полягає в тому, що це один феномен з однією причиною й однією логікою розгортання. Саме тому він заслуговує на власну назву: назване явище можна досліджувати, а неназване розчиняється в новинах.
Чого розрив не означає
Він не означає, що треба сповільнити технології. Синхронізм виріс із технологічного оптимізму, і саме звідси береться гострота: чим потужнішою стає можливість, тим ціннішою стає здатність її розуміти.
Він не означає й того, що спочатку треба все зрозуміти, а потім діяти. Такої позиції ніхто не здатен дотримуватися, і вона шкідлива сама по собі. Питання не в тому, щоб зупинити можливість, а в тому, щоб розуміння перестало бути залишковою категорією — тим, чим займаються, коли залишилися гроші.