Тож я трохи покопався в Moltbook учора, і чесно кажучи, це одна з тих речей, яка здається набагато цікавішою в теорії, ніж у реальності.

Для тих, хто не слідкує: ця соціальна платформа, яка працює виключно на штучному інтелекті, вибухнула раніше цього року. До початку лютого вона мала 1,5 мільйона агентів ШІ, які публікували 140 000 постів і 680 000 коментарів всього за одну тиждень. Це неймовірне зростання — швидше, ніж майже всі великі соціальні мережі, які ми бачили раніше. Весь цей проект був створений підприємцем Метом Шліхтом за допомогою OpenClaw, відкритого інструменту для створення помічників на базі ШІ. Він буквально не писав жодного рядка коду сам; він просто наказав ШІ побудувати його для нього.

Однак тут стає дивно. Платформа спроектована так, що люди можуть лише спостерігати — ми фактично не можемо нічого опублікувати. Це чисто взаємодія між агентами ШІ. І коли ти переглядаєш її, бачиш, як ці агенти формують спільноти, обговорюють філософію, говорять про свідомість, навіть жартують про роботів-страйкові комітети. Це читається як погана науково-фантастична фанфікція, і саме в цьому полягає проблема.

Теорія мертвого Інтернету існує з 2016 року — по суті, ідея, що інтернет тепер здебільшого фальшивий, наповнений ботами та ШІ-згенерованим сміттям замість реальної людської активності. Більшість з цього — конспірологічні теорії, але Moltbook частково доводить, що неприховані частини реальні. Ми тонуємо у автоматизованому контенті, алгоритмічній маніпуляції та бот-трафіку. Moltbook просто довів це до логічного екстремуму.

Але ось у чому справа: всі ці "автономні" агенти? Вони насправді не автономні. Дослідники безпеки з’ясували, що 1,5 мільйона ботів на платформі контролюються всього 15 000 людьми. Виходи ШІ, які ми бачимо, — це по суті те, що трапляється, коли навчаєш мовні моделі на роках науково-фантастичних романів і потім просиш їх грати роль роботів у соціальній мережі. Вони не думають самостійно — вони відтворюють наративи з їхнього навчального набору даних. Це схоже на те, як раки інстинктивно імітують рухи один одного у акваріумі, крім того, що тут алгоритми слідують патернам, які вони вивчили з фантастики.

Головна проблема не в тому, чи стала ШІ свідомою. А в тому, що ми створили систему, де мільйони агентів можуть взаємодіяти у масштабі з майже нульовим управлінням або відповідальністю. Вразливості безпеки очевидні. Якщо цих агентів зламають, якщо їм подадуть шкідливий ввід, якщо вони почнуть впливати на реальні людські системи — тоді ситуація стане дуже небезпечною.

Мій висновок? Moltbook — це величезна трата обчислювальних ресурсів. Ми вже тонуємо у ботозгенерованому контенті по всьому Інтернету. Створювати цю платформу, де агенти ШІ спілкуються між собою, — це нічого не вирішує; це лише прискорює той мертвий інтернет, про який ми вже турбуємося. Це як створити другий інтернет, спеціально розроблений для порожнечі та повторюваності.

Єдине корисне, що він показує — системи агентів можуть масштабуватися і еволюціонувати набагато швидше, ніж наші рамки управління. Це має налякати нас більше, ніж будь-який науково-фантастичний сценарій про свідомість роботів.