Питання
Чи може свідомість існувати на небіологічному субстраті?
Замінюймо біологічні нейрони по одному на штучні елементи, які повністю відтворюють їхню функцію, сигнали й часову динаміку. Після першої заміни особистість очевидно на місці. Після мільйонної — теж. У кінці вся структура працює на іншому носії. Де саме в цьому процесі мала б зникнути свідомість?
.60 схиляємося
Що ми знаємо
- Свідомий досвід у людини надійно корелює з певними типами нейронної активності, і втручання в цю активність передбачувано змінює досвід.
- Функція окремого нейрона — його входи, виходи, часова динаміка й причинні зв’язки — у принципі описувана й відтворювана.
- Жодна наявна теорія свідомості не має статусу загальноприйнятої. Конкурують щонайменше глобальний робочий простір, інтегрована інформація, теорії вищого порядку й предиктивні підходи.
Чого ми не знаємо
- Чи є суб’єктивний досвід наслідком організації процесів, чи він залежить від конкретних фізичних властивостей носія.
- Чи існує в принципі спостережуваний критерій наявності досвіду в системі, поведінка якої від нас відрізняється.
- Що саме з описаного наукою є причиною досвіду, а що — лише його супутником.
Наша позиція
Ми схиляємося до того, що субстрат сам по собі не дає відповіді. Головний аргумент — поступова заміна: якщо кожен біологічний нейрон по черзі замінювати штучним елементом, який повністю відтворює його функцію й часову динаміку, то після заміни одного нейрона особистість очевидно продовжує існувати, після мільйона постає те саме питання, а в кінці процесу функціональна структура залишається безперервною на іншому носії. Ми не бачимо непроблематичної точки, у якій свідомість мала б зникнути. Це не доводить, що машина свідома, — це показує, що апеляція до матеріалу як такого не є аргументом.
Що змінило б цю позицію
Позицію змінив би переконливий опис механізму, у якому досвід залежить від фізичних властивостей нейрона, не зведених до його функціональної ролі, — і пояснення, чому такий механізм не спостерігається ззовні. Також її ослабила б демонстрація, що сценарій поступової заміни містить приховану помилку.
Навіщо це синхронізму
Це найчистіший приклад розриву між можливістю й розумінням. Ми вкладаємо величезні ресурси у створення систем, які демонструють дедалі складнішу поведінку, не маючи теорії того, що саме робить систему носієм досвіду. Питання не академічне: від нього залежить, чи виникає взагалі моральна проблема у сфері, куди зараз іде найбільший потік інвестицій в історії технологій.
Джерела
- David Chalmers. Absent Qualia, Fading Qualia, Dancing Qualia (1995) — аргумент поступової заміни в оригінальній формі
- David Chalmers. Facing Up to the Problem of Consciousness (1995) — формулювання важкої проблеми
- Thomas Nagel. What Is It Like to Be a Bat? (1974) — про межі зовнішнього опису досвіду
- Patrick Butlin, Robert Long та ін. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (2023) — спроба застосувати наявні теорії до систем AI