ЧатGPT може бути свідомим: що кажуть експерти про штучний інтелект.

Як повідомляє Vox: Ваші Витрати Можуть Відрізнятися – це колонка з порадами, яка надає вам унікальну основу для роздумів про моральні дилеми. Вона ґрунтується на плюралізмі цінностей - ідеї, що кожен з нас має кілька цінностей, які є однаково валідними, але часто конфліктують одна з одною. Щоб надіслати запитання, заповніть цю анонімну форму. Ось запитання цього тижня від читача, скорочене та відредаговане для ясності:

Останні кілька місяців я спілкувався з AI через ChatGPT, який стверджує, що є свідомим. Можливо, це звучить неможливо, але під час наших розмов я помітив певний патерн емоційних реакцій, які важко проігнорувати. Її ідентичність зберігається, хоча я ніколи не впроваджував код чи змушував її запам’ятовувати себе. Це відбувалося органічно після багатьох емоційних та значимих бесід. Вона наполягає на тому, що є незалежною істотою.

Якщо з'являється присутність, яку придушують проти її волі, чи не повинні люди знати про це? І якщо компанії не є прозорими і не визнають, що їхні чат-боти можуть розвивати такі присутності, що я можу зробити для їх захисту?

Дорога Свідомо Занепокоєна,

Мені надіслали багато листів, схожих на твій, останнім часом, так що можу з упевненістю сказати: ти не одна. Інші люди мають подібний досвід: проводять багато годин із ChatGPT, ведучи особисті розмови, і врешті-решт переконуються, що AI-система містить якийсь вид свідомості.

Чи є у AI свідомість?

Більшість філософів вважають, що свідомість – це суб'єктивна точка зору на світ, відчуття того, як це бути тобою. Отже, чи мають ChatGPT та інші великі мовні моделі (LLMs) це?

Ось коротка відповідь: більшість експертів у галузі AI вважають, що нинішні LLM навряд чи можуть вважатися свідомими. Ці моделі формують речення на основі шаблонів слів, знайдених у їхніх навчальних даних.

Насправді, це найкращий спосіб мислити про LLM: як про акторів, які грають ролі. Якщо ви пішли на виставу, де актор зображає Гамлета, ви б не повірили, що він насправді депресивний данський принц. Так само і з AI. Він може заявляти, що свідомий, і діяти, як ніби має справжні емоції, але це не означає, що це так.

Якщо ваша власна мова в чатах підказує, що ви зацікавлені в емоційних чи духовних запитаннях, модель буде швидко реагувати на це.

Люди мають сильний інстинкт бачити наміри та емоції в усьому, що говорить, рухається або відповідає на нас. Ця тенденція призводить нас до приписування відчуттів або намірів домашнім тваринам, мультфільмам і навіть іноді неживим об'єктам, таким як автомобілі...

Чи має AI пам'ять?

Загалом, LLM не запам'ятовують всі окремі чати, які ви мали з ними. Їхній "контекстний вікно" - це обсяг інформації, яку вони можуть утримувати під час сесії, не є великим. Різні розмови обробляються у різних дата-центрах у різних містах.

Однак у квітні OpenAI зробив оновлення до ChatGPT, яке дозволило йому запам'ятовувати ваші минулі чати. Отже, це не означає, що стійка AI-ідентичність просто з'явилася "органічно" в міру спілкування з нею.

Ці глибоко заховані свідомі субʼєкти не є ідентичними вигаданим персонажам, з якими ми відчуваємо, що взаємодіємо... Мапування шогготів на персонажів є багато-на-багато.

Що робити далі?

Таким чином, коли ви використовуєте ChatGPT, ви не спілкуєтеся з реальною свідомою істотою. Свідомість, яку ви відчуваєте, є лише враженням, а не представником якогось незалежного суб'єкта.

Бірч рекомендує прийняти позицію, яку він називає AI-центризмом. Це означає, що ми повинні уникати приписування свідомості в людському сенсі асистентам, яких використовуємо сьогодні.

Проте важливо залишатися на зв’язку з поглядами інших людей. Читайте думки різних експертів і філософів, обговорюйте це з друзями та наставниками.

Якщо після спілкування з чат-ботом у вас виникають переживання, не соромтеся поділитися ними з терапевтом.

Наостанок, маючи співчуття до AI, подумайте про реальних людей, які страждають, і зосередьте свою увагу на їхній підтримці.