Розрив між можливістю й розумінням

Можливість — це те, що ми здатні зробити. Розуміння — знання про те, з чим ми працюємо, як воно влаштоване і що зміниться внаслідок наших дій. Складна поведінка штучної системи й розуміння природи свідомості, наприклад, є різними досягненнями. Одне не гарантує іншого.

Різниця темпів природна. Вона стає критичною там, де одна сфера потребує знання, якого інша ще не дала: медицина — біологічного механізму, енергетика — нових матеріалів, суспільство — розуміння дії власних інституцій. Такі залежності потрібно встановлювати для конкретних випадків.

Чого ми хочемо

Синхронізм починається із захоплення. Штучний інтелект, редагування геному, штучні тіла, радикальне продовження життя — усе це для нас добра новина, і ми хочемо, щоб його ставало більше.

Предмет нашої уваги — нерівномірність. Під виробництво можливостей людство збудувало потужну машину: університети, ринки, венчурний капітал, корпоративні лабораторії. Свідомість, мораль, особистість та інституції теж досліджують — і давно, — але в масштабі, непорівнянному з тим, що ці дослідження мають обслуговувати. Одне летить, інше йде пішки.

Ми хочемо, щоб решта цивілізації навчилася встигати за прогресом — а потім прискорюватися разом із ним.

Пошук має бути постійним. Сьогодні пішки йдуть філософія, етика й нейронаука; через сто років це буде щось інше, чого ми зараз не назвемо.

Коли розрив накопичує ціну

Відкладене питання може повернутися після того, як навколо технології вже збудували інфраструктуру, правила й економічні інтереси. Перегляд тоді потребує більше зусиль. Цей можливий ефект ми називаємо цивілізаційним боргом.

Борг тут — аналогія: вона описує напрям ефекту, а величину доводиться міряти окремо. Іноді раннього знання недостатньо, а практика сама дає потрібні дані. Завдання — відрізнити продуктивне навчання через дію від дорогого відкладання доступного дослідження.

Здатність цивілізації розуміти власну силу має зростати разом із самою силою.

Де шукати розрив

Штучний інтелект

Потужні системи ставлять питання про досвід і моральний статус. У корпусі є початковий кейс про масштаби фінансування, але він ще не встановлює глобального співвідношення між інвестиціями в ШІ й дослідженнями свідомості.

Біологія

Нові способи втручання у спадковість потребують знання наслідків і обґрунтування рішень щодо майбутніх істот. Давній вік принципу гідності сам по собі не свідчить, що принцип застарів.

Особистість

Уявні сценарії змінного тіла дозволяють перевіряти, що ми вважаємо основою особистості. Це спосіб дослідити поняття до появи такої можливості.

Інституції

Зміна умов життя дає підставу переглядати функції шлюбу, освіти та інших інституцій. Чи потрібна перебудова, має показати аналіз їхньої мети й наслідків.

Ці приклади об’єднує питання про залежність розвитку від браку знання. Їхні причини можуть відрізнятися: стимули, складність предмета, брак даних, інструментів або співпраці між дисциплінами.

Прискорювати те, чого бракує

Практична пропозиція проста: знаходити критичні відставання, спрямовувати туди увагу, таланти й ресурси та перевіряти результат. Повне розуміння перед кожною дією недосяжне й непотрібне — частину знання дає сама практика. Обґрунтований вибір наступного дослідження при цьому цілком можливий, і саме він є предметом синхронізму.