Питання
Чи можлива небіологічна свідомість?
Уявімо поступову заміну нейронів штучними елементами зі збереженням усіх істотних причинних зв’язків. Якщо поведінка, пам’ять і самозвіт лишаються безперервними, на якій підставі очікувати зникнення досвіду? Сценарій перевіряє наш критерій свідомості; можливість такої заміни ще потребує обґрунтування.
0,60 схиляємося · редакційна оцінка
Що ми знаємо
- У людей зміни мозкової активності та втручання в роботу мозку пов’язані зі змінами свідомого досвіду. Це дає матеріал для перевірки теорій.
- Аргумент поступової заміни розроблений у філософії свідомості, зокрема Девідом Чалмерсом. Він спирається на припущення про збереження істотної організації системи.
- Різні теорії свідомості пропонують різні пояснення та індикатори. Застосування їх до штучних систем вимагає окремої перевірки.
Чого ми не знаємо
- Чи достатня причинна організація для досвіду, чи істотні також конкретні фізичні властивості носія.
- Які саме властивості нейрона треба зберегти та чи можлива потрібна заміна фізично.
- Які спостереження дозволяють розрізнити свідомий досвід і його переконливий поведінковий опис.
Наша позиція
Ми схиляємося до можливості небіологічної свідомості. Поступова заміна робить цю можливість обґрунтованою гіпотезою: назвати момент втрати досвіду за збереження істотної організації непросто. Водночас сам сценарій не встановлює, що організації достатньо, що заміна здійсненна або що якась наявна система ШІ свідома.
Що змінило б цю позицію
Позицію послабив би аргумент про приховану суперечність сценарію або дані на користь фізичної властивості, необхідної для досвіду й відсутньої в запропонованій заміні. Підсилення потребує незалежних теоретичних та емпіричних підстав.
Навіщо це синхронізму
Зростання можливостей ШІ робить знання про свідомість важливим для вибору досліджень і майбутніх моральних рішень. Встановити, яке саме знання відсутнє, — перший крок до роботи над цим розривом.
Джерела
- David Chalmers. Absent Qualia, Fading Qualia, Dancing Qualia (1995)
- David Chalmers. Facing Up to the Problem of Consciousness (1995)
- Thomas Nagel. What Is It Like to Be a Bat? (1974)
- Patrick Butlin, Robert Long та ін. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (2023)