Кейс
Скільки коштує можливість і скільки — розуміння
Найчастіше повторюване твердження синхронізму — що цивілізація вкладає у створення можливостей на порядки більше, ніж у розуміння їхнього предмета. Цей кейс перевіряє його на найяскравішому прикладі: AI проти науки про свідомість.
Твердження
Річні витрати на створення систем штучного інтелекту перевищують річні витрати на фундаментальне дослідження свідомості й природи інтелекту щонайменше на два порядки, і ця диспропорція не пояснюється ані зрілістю галузей, ані відсутністю дослідницьких програм.
.70 впевнені
Метод
- Ми зіставляємо два потоки: задокументовані приватні інвестиції у створення систем AI і сумарне фінансування фундаментальних досліджень свідомості з публічних і філантропічних джерел.
- Для першого потоку використовуємо галузеві агреговані звіти, насамперед AI Index. Для другого — оголошені обсяги великих програм, оскільки консолідованої статистики по цій темі не існує.
- Порівняння свідомо робиться в порядках величини, а не у відсотках: точність вхідних даних не дозволяє більшого, і будь-яка вища точність тут була б імітацією.
Що ми бачимо
01
Створення можливості
Приватні інвестиції у створення систем AI стабільно вимірюються десятками мільярдів доларів на рік і в окремі роки наближаються до сотні мільярдів. Це добре задокументований потік: він проходить через венчурні угоди, корпоративні звіти й капітальні витрати на обчислення.
02
Дослідження предмета
Фінансування фундаментальних досліджень свідомості не має консолідованого обліку, що саме по собі показово. Найбільші цілеспрямовані програми останніх років — зокрема змагальні колаборації між конкурентними теоріями свідомості, профінансовані приватною філантропією, — вимірюються одиницями й десятками мільйонів доларів, розподіленими на кілька років.
03
Зіставлення
Навіть за найщедрішої оцінки другого потоку й найконсервативнішої оцінки першого розрив залишається щонайменше двопорядковим. За реалістичних оцінок він ближчий до трьох порядків.
04
Контрольна перевірка
Диспропорція не унікальна для AI. Схоже співвідношення спостерігається між інвестиціями у втручання в біологію людини й дослідженням їхніх довгострокових психологічних і соціальних наслідків. Це свідчить радше про структурну причину, ніж про особливість однієї галузі.
Межі
Кейс без визнаних меж — реклама, а не дослідження.
- Межа між «створенням можливості» й «дослідженням розуміння» проведена нами й не є загальноприйнятою. Значна частина роботи в лабораторіях AI є фундаментальним дослідженням інтелекту, і за іншого способу рахувати розрив зменшиться.
- Другий потік ми оцінюємо за оголошеними програмами, а не за суцільною вибіркою. Це майже напевно занижує його: дослідження свідомості розпорошені по нейронауці, психології та філософії, де вони не позначені як такі.
- Диспропорція сама по собі не є доказом неправильного розподілу. Щоб стверджувати це, потрібна модель того, яке співвідношення було б правильним, а її в нас немає.
- Дані по приватних інвестиціях у AI відображають очікування ринку, а не реальні витрати на дослідження, і в періоди ажіотажу завищені.
Висновок
Твердження про розрив у порядках величини ми вважаємо обґрунтованим. Твердження про те, що вирівнювання цього розриву дало б пропорційний результат, ми обґрунтованим не вважаємо — і це два різні твердження, які легко сплутати.
Джерела
- Stanford HAI. AI Index Report — щорічні агреговані дані про приватні інвестиції в AI
- Templeton World Charity Foundation. Accelerating Research on Consciousness — програма змагальних колаборацій між теоріями свідомості
- Patrick Butlin, Robert Long та ін. Consciousness in Artificial Intelligence (2023) — огляд стану теорій свідомості стосовно систем AI