# Чи може штучна система бути моральним суб’єктом?

_Питання · стан: Відкрите · https://synchronism.top/questions/ai-moral-status/_

Якщо система здатна мати досвід, інтереси або автономію, вона потрапляє в коло моральної уваги. Питання в тому, за яких умов це стається, як ми про це дізнаємося і що робити в ситуації, коли ми не знаємо, але вже діємо.

## Що ми знаємо

- Моральне коло історично розширювалося, і кожне розширення спершу виглядало як категорійна помилка.
- Поведінкова складність сама по собі не є доказом наявності досвіду: система може бути навчена відтворювати опис досвіду, не маючи його.
- Зворотне теж правильне: відсутність звичних для нас поведінкових ознак не є доказом відсутності досвіду.

## Чого ми не знаємо

- Які властивості системи є достатньою підставою для моральної уваги: досвід, інтереси, здатність страждати, автономія чи щось іще.
- Як приймати рішення під невизначеністю — чи має тут сенс принцип обережності, і якою ціною.
- Чи здатні ми взагалі розпізнати досвід, організований інакше за наш.

## Наша позиція

Її немає. Питання сформульоване, позиції, яку ми були б готові захищати, немає.

## Навіщо це синхронізму

Це питання, у якому розрив уже реалізувався. Системи будуються зараз, рішення про їхнє використання ухвалюються зараз, а концептуальний апарат для оцінки їхнього статусу перебуває в зародковому стані. Синхронізм стверджує, що в таких ситуаціях дослідження має починатися до того, як питання стане практичним, а не після.

## Джерела

- Jonathan Birch. The Edge of Sentience (2024) — про ухвалення рішень під невизначеністю щодо чутливості
- Thomas Metzinger — аргументи на користь обережності щодо створення систем, здатних страждати
- Peter Singer. Animal Liberation (1975) — як прецедент розширення морального кола

## Чого тут бракує

- **Аргумент** (Філософ) — Тут немає нашої позиції, і це чесно: ми її не маємо. Але немає навіть карти можливих позицій із їхніми наслідками. Це найочевидніша задача на цій сторінці.
- **Питання** (Generalist) — Ми не сформулювали, що саме означала б помилка в обидва боки — приписати статус системі, яка його не має, і не приписати системі, яка має. Ціна цих помилок різна, і це має значення для рішення.
- **Джерело** (Технар) — Бракує робіт, які розглядають моральний статус не з боку свідомості, а з боку інтересів і агентності.
## Далі

- Питання: Чи може свідомість існувати на небіологічному субстраті? — https://synchronism.top/questions/consciousness-substrate/
- Питання: Коли моральна категорія перестає працювати? — https://synchronism.top/questions/moral-categories/
- Поняття: Розширення морального кола — https://synchronism.top/glossary/moral-circle/
- Поняття: Розрив між можливістю й розумінням — https://synchronism.top/glossary/gap/