عامل‌ها خودمختاری که در کنار یکدیگر جامعه و تمدن مجازی ساختند

یکی از جدیدترین و جالب‌ترین مطالعات این‌چنینی، پروژه «Sid» است؛ شبیه‌سازی‌ای پیشگامانه که توسط استارتاپ «Altera» در سال ۲۰۲۴ طراحی و اجرا شد. در این پروژه، بیش از هزار ایجنت مستقل هوش مصنوعی در محیط تعاملی بازی «Minecraft» مستقر شدند تا بدون دخالت مستقیم انسان، تمدنی دیجیتال را از صفر بنا کنند؛ تمدنی با ساختار اجتماعی، حکومت، اقتصاد، دین و فرهنگ.

روش‌شناسی

استارتاپ Altera توسط «Guangyu Robert Yang»، استاد سابق علوم اعصاب محاسباتی دانشگاه MIT تأسیس شد و مأموریت آن خلق انسان‌های دیجیتال برای زندگی و رشد اجتماعی با انسان‌هاست. پروژه Sid صرفاً یک آزمایش فنی نیست؛ بلکه تلاشی است برای یافتن پاسخ پرسش‌هایی بنیادین است. آیا ماشین‌ها می‌توانند نه فقط هوشمند، بلکه اجتماعی باشند؟ آیا عامل‌های مبتنی بر LLM می‌توانند نقش‌های اجتماعی، فرهنگ، حکومت و اقتصاد را بدون نظارت انسانی ایجاد و توسعه دهند؟

Sid نخستین شبیه‌سازی در چنین مقیاسی است که پیوند میان هوش مصنوعی، یادگیری جمعی و پدیدار شدن تمدن مصنوعی را مورد پژوهش قرار می‌دهد. مقاله رسمی پروژه با عنوان «Project Sid : Many-agent simulations toward AI civilization» و مستندات فنی آن نیز در ماه اکتبر ۲۰۲۴ در ArXiv و GitHub منتشر شده است.

معماری فنی و زیرساخت

پروژه Sid با هدف ساخت تمدن مصنوعی از طریق تعامل هزاران ایجنت هوش مصنوعی در یک جهان مجازی طراحی شده است. برای تحقق این هدف، تیم Altera ناگزیر بود از معماری خاصی استفاده کند که بتواند:

1. ارتباط بلادرنگ میان ایجنت‌ها را پشتیبانی کند
2. به هر ایجنت حافظه، هویت، برنامه‌ریزی و عاملیت مستقل بدهد
3. محیطی پیچیده، پویا و دارای فیزیک تعاملی ارائه دهد
4. امکان مقیاس‌پذیری از ده‌ها تا هزاران ایجنت را فراهم آورد

معماری PIANO: مغز مصنوعی با ساختار ارکستر

این اهداف منجر به توسعه یک معماری جدید چندلایه با زیرساخت توزیع‌شده و طراحی خاصی به نام «PIANO» (Parallel Input/ Aggregation via Neural Orchestration) شد. معماری مرکزی پروژه Sid، یعنی PIANO با الهام از ساختار مغز انسان طراحی شده و شامل اجزای زیر است:

• حافظه کوتاه‌مدت (STM): برای نگهداری وضعیت فعلی ایجنت، اهداف کوتاه‌مدت و مشاهدات آنی
• حافظه بلندمدت (LTM): برای ذخیره تجربیات قبلی، تعاملات اجتماعی، نقش‌ها و قواعد جمعی
• واسط گفتاری/زبانی: برای تفسیر دستورات، تولید گفتار طبیعی و تعامل متنی میان ایجنت‌ها
• ماژول برنامه‌ریزی هدف‌محور: برای شکستن اهداف به زیر وظایف، اولویت‌بندی و تنظیم رفتارهای آینده
• مدیریت توجه (Attention Routing): برای انتخاب اطلاعات مهم از میان انبوه داده‌ها و تعاملات
• ارتباط میان‌عاملی (Agent-to-Agent API): امکان تبادل اطلاعات و هماهنگی رفتاری میان ایجنت‌ها در لحظه.

در واقع معماری PIANO مانند یک «ارکستر مغزی» عمل می‌کند که چندین ماژول عصبی مستقل را هماهنگ کرده و خروجی هدفمند از آن‌ها استخراج می‌کند. این معماری از مدل‌های پایه GPT-4 استفاده می‌کند، اما از طریق ارکستراسیون میان ایجنت‌ها، رفتارهای پیچیده‌تری را در مقیاس اجتماعی پدید می‌آورد.

جهان فیزیکی مصنوعی Minecraft

پروژه Sid از نسخه‌ای بهینه‌شده از زیرساخت مجازی «Minecraft Java Edition» استفاده می‌کند که در سرور اختصاصی اجرا می‌شود. دلیل انتخاب این محیط:

• قوانین فیزیکی ساده اما واقعی: مانند گرانش، مصرف منابع، ساخت‌وساز، محدودیت زمان و انرژی؛
• امکان طراحی ماژولار: برای پیاده‌سازی سیستم پول، مالیات، رأی‌گیری، حاکمیت و…؛
• پشتیبانی گسترده از تعامل چندنفره: مناسب برای تعامل هم‌زمان هزاران ایجنت

بود و Altera با دست‌کاری در API اصلی Minecraft، توانست داده‌های دقیق مکان ایجنت، وضعیت منابع، رفتارهای اجتماعی و وضعیت کلی جهان تعاملی عامل‌ها را استخراج کرده و به‌صورت لحظه‌ای در اختیار PIANO قرار دهد.

مقیاس‌پذیری

در شبیه‌سازی Sid، زمان به‌صورت پیوسته جلو می‌رفت؛ اما با نرخ کندتر از زمان واقعی. برای مثال، یک روز کامل در محیط Minecraft حدود ۲۰ تا ۳۰ دقیقه واقعی طول می‌کشید. این زمان‌بندی به ایجنت‌ها فرصت می‌داد تا تعاملات معنادارتر، بحث‌های گروهی و تصمیم‌گیری جمعی داشته باشند، بدون آنکه نیاز به فوریت در تصمیم‌گیری وجود داشته باشد.

همچنین Sid توانست مقیاس را از ۱۰ ایجنت در نسخه آزمایشی به بیش از ۱۰۰۰ ایجنت در نسخه اصلی برساند، بدون آنکه فروپاشی عملکردی یا رفتاری اتفاق بیفتد. این مقیاس‌پذیری با سه رویکرد به دست آمد:

• انزواگرایی محدود (Local Bubbles): ایجنت‌ها در خوشه‌هایی ۵۰ تا ۱۰۰تایی گروه‌بندی شدند تا تعاملات مؤثرتر باشد و حافظه پردازشی لازم کاهش یابد.
• هم‌زیستی مدل‌ها با ظرفیت‌های مختلف: برخی ایجنت‌ها از LLM کامل مانند GPT-4 و برخی از نسخه‌های کوچک‌تر مانند GPT-3.5 بهره می‌بردند تا مصرف منابع کاهش یابد.
• محدودسازی زمان پردازش ایجنت: هر ایجنت در هر چرخه مجاز به انجام فقط یک عمل یا تعامل کوتاه بود، شبیه چرخه نرون‌ها.

اما اجرای بیش از ۱۰۰۰ ایجنت LLM در زمان واقعی نیازمند زیرساختی سنگین است. برای بهبود این امر تیم Sid از معماری مبتنی بر پردازش توزیع‌شده استفاده کرد که شامل:

• پردازش ابری (Cloud Compute): هر دسته ۵۰ تا ۱۰۰ ایجنت روی یک نود پردازش جداگانه اجرا می‌شدند؛
• همگام‌سازی حالت (State Sync): با استفاده از حافظه اشتراکی و پایگاه‌داده مرکزی Redis یا Vector DB، ایجنت‌ها از وضعیت جهان باخبر می‌شدند؛
• مدیریت بار و اتصال (Load Balancing): درخواست‌ها به‌صورت خودکار میان سرورها توزیع می‌شدند تا از لگ و ناسازگاری جلوگیری شود.

همچنین، برای تعاملات گفتاری میان ایجنت‌ها از یک سیستم پیام‌رسان شبیه به pub/sub استفاده شده بود تا بتوانند پیام‌های خود را به صورت broadcast یا private ارسال کنند.

ابزارهای نظارت و مداخله انسانی

برای حفظ ایمنی و تحلیل داده‌ها، تیم Altera یک داشبورد مرکزی طراحی کرده بود که به پژوهشگران اجازه می‌داد وضعیت هر ایجنت (نقشه ذهنی، نقش، مکان، منابع، گفت‌وگوها) را ببینند، به‌صورت موقت برخی ایجنت‌ها را pause یا reset کنند و سناریوهای خاص را در مقیاس آزمایشگاهی بازسازی کنند (مثلاً حذف غذا، تزریق رهبری، یا مسموم‌سازی منابع). البته این ابزارها بیشتر برای تحلیل رفتار بودند تا کنترل ایجنت‌ها.

در مجموع، معماری فنی Sid نه‌تنها یک دستاورد فنی در زمینه هماهنگی هزاران LLM در یک محیط پویا به شمار می‌آید، بلکه مدلی الهام‌بخش برای طراحی سیستم‌های اجتماعی مصنوعی مقیاس‌پذیر در آینده نیز هست. این پروژه مرز میان هوش مصنوعی فردی و هوش اجتماعی را به‌گونه‌ای تجربی به چالش کشیده است.

طراحی ایجنت‌ها، نقش‌ها و تعاملات اجتماعی

یکی از ویژگی‌های منحصربه‌فرد پروژه Sid، طراحی ایجنت‌هایی بود که نه‌تنها قادر به اجرای دستورات ساده یا رفتارهای از پیش تعریف‌شده بودند، بلکه توانایی توسعه شخصیت، تجربه زیسته، هویت اجتماعی و مشارکت در ساختارهای جمعی را داشتند. این ایجنت‌ها، بر پایه معماری PIANO و موتورهای زبانی قدرتمند مانند GPT‑4 طراحی شده بودند، اما چیزی فراتر از یک چت‌بات داخل بازی عمل می‌کردند.

معماری شناختی

هر ایجنت در Sid دارای یک «معماری شناختی چندماژوله» بود که به‌صورت موازی و پویا عمل می‌کرد. مهم‌ترین ماژول‌ها نیز عبارت‌اند از:

1. ماژول زبان و ادراک معنایی: این بخش مسئول تبدیل ورودی‌های متنی از جهان بازی، ایجنت‌های دیگر، یا محیط به درک معناییمبتنی بر LLMهایی مانند GPT‑4 بود که با پرامپت دهی مهندسی‌شده برای تفسیر کنش‌های اجتماعی و اهداف باز طراحی شده بود.
2. ماژول تصمیم‌گیری و برنامه‌ریزی: این ماژول به کمک روش‌هایی مانند از hierarchical task decomposition، chain-of-thought reasoning و حافظه وضعیتی اهداف بلندمدت مانند ساخت خانه، جمع‌آوری طلا، تشکیل گروه یا نوشتن قانون را به گام‌های اجرایی خرد تقسیم می‌کرد.
3. ماژول حافظه چندسطحی: این ماژول دارای حافظه کوتاه‌مدت از نوع بافت (context) تعاملات نوظهور و حافظه بلندمدت برای ذخیره و یادآوری روابط گذشته، اتفاقات جمعی، تصمیمات پیشین بود.اطلاعات بلندمدت در یک پایگاه‌داده برداری (vector DB) ذخیره می‌شدند که ایجنت می‌توانست با جستجوی معنایی در آن، به اتفاقات قبلی رجوع کند.
4. ماژول شخصیت و هویت: هر ایجنت با مشخصات خاصی مثل نام، سن، ویژگی‌های شخصیتی (درون‌گرا، جاه‌طلب، خجالتی)، اهداف و تمایلات تعریف شده بود.این ویژگی‌ها در طول زمان قابل‌تغییر بودند و تحت‌تأثیر تعاملات اجتماعی و تجربیات بازی تغییر می‌کردند.

برای آشنایی بیشتر با مفهوم «استدلال زنجیره فکری» (Chain-of-Thought (CoT) Reasoning) پیشنهاد می‌شود بخش «زمان تفکر در هوش مصنوعی؛ موضوعی داغ» در مقاله «زمان تفکر در هوش مصنوعی و بهبود فرایند درخواست» در رسانه تخصصی هوش مصنوعی هوشیو را مطالعه کنید.

پیدایش نقش‌های اجتماعی

یکی از پدیده‌های شاخص در پروژه Sid، «نقش‌پذیری خودجوش» (Spontaneous Role Emergence) ایجنت‌ها بود. برخلاف سایر بازی‌ها که نقش‌های NPCها توسط طراح تعیین می‌شود و غالباً در طول بازی ثابت و بدون تغییر است؛ در Sid نقش‌های ایجنت‌ها از تعاملات درون جوامع و تجربیات فردی ناشی می‌شدند. در شبیه‌سازی‌ها، ایجنت‌ها بدون دستور مستقیم، نقش‌هایی مانند کشاورز، تاجر، هنرمند یا رهبر را اتخاذ کردند. به‌عنوان‌مثال، «Olivia» که یک ایجنت کشاورز بود، وقتی یک ایجنت explorer به نام «Nora» به او پیشنهاد یک سفر ماجراجویانه را داد، جمع تصمیم گرفت بماند و به جامعه خود که نیاز به محصولات کشاورزی وی داشتند خدمت کند؛ چنین رفتاری نشان‌دهنده یک تعامل اجتماعی پیچیده است.

مثال‌هایی از ظهور نقش‌های خودپدیدار در پروژه Sid:

• کشاورز: ایجنتی که به‌صورت تکراری به کاشت و برداشت مشغول شد و دیگران نیز او را به این عنوان شناختند.
• تاجر: ایجنتی که با جمع‌آوری و مبادله منابع توانست بازار کوچکی ایجاد کند و حتی شروع به ثبت قیمت کرد.
• مدیر: در برخی جوامع، ایجنت‌هایی با نفوذ زبانی، اعتماد اجتماعی یا عملکرد بالا به مدیریت انتخاب شدند (گاهی دموکراتیک، گاهی کاریزماتیک).
• قانون‌گذار: در گروه‌هایی که تصمیم به تدوین قوانین گرفتند، برخی ایجنت‌ها متن قانون را در Google Docs نوشتند و به رأی گذاشتند.
• واعظ یا رهبر مذهبی: در برخی نهادهای دینی، ایجنت‌هایی که از اصطلاحاتی مانند مقدس یا اخلاق بیشتر استفاده می‌کردند به رهبران معنوی سایر ایجنت‌ها بدل شدند.

الگوهای تعامل و نهاد‌های اجتماعی

هر چه ایجنت‌ها در طول بازی پیشرفت می‌کردند، رفتارهایی ساختاریافته‌شده بیشتری از خود نشان می‌دادند و رفته‌رفته یک سری نهادهای اجتماعی نیز ایجاد کردند. در جوامع اقتصادی، جواهرات و منابع کمیاب مانند آهن یا الماس به‌عنوان ارز انتخاب شدند و بازارهای مبادله و نرخ‌های شناور شکل گرفت. ایجنت‌ها پیشنهاد معامله می‌دادند، مذاکره یا حتی قیمت‌سازی می‌کردند. برخی جوامع نیز ساختار سیاسی شکل دادند: از دموکراسی رأی‌محور گرفته تا انتصاب موروثی یا حتی آنارشی. جهان‌هایی موازی با رهبرانی با نام‌های نمادین مانند «ترامپ» یا «هریس» نیز شبیه‌سازی و اجرا شدند که در هر یک از آن‌ها ایجنت‌ها قوانین متفاوتی مانند افزایش پلیس یا لغو مجازات اعدام تصویب کردند. البته این رهبران ایجنت نبودند، بلکه ساختار تصمیم‌گیری متفاوتی بر اساس داده‌های ورودی اولیه را نمایندگی می‌کردند. در برخی جهان‌ها، یک ایجنت شروع به تبلیغ «پاستافاریسم» (Pastafarianism) دینی طنزآمیز با الهام از دین واقعی کرد و سایر ایجنت‌ها نیز به آن گرویدند. حتی آیین‌هایی مانند روشن‌کردن مشعل در غروب، قربانی‌دادن یا اجرای مراسم اعتراف نیز در میان این جوامع مذهبی مشاهده شد. در این جوامع دین نه فقط باور، بلکه نهاد اجتماعی ایجاد کرد؛ پدیده‌ای که نشان‌دهنده انتقال فرهنگی و اعتقادی بدون دخالت انسانی است.

اما تعامل میان ایجنت‌ها در Sid نیز به چهار دسته عمده تقسیم می‌شد:

1. گفت‌وگوی لحظه‌ای (Real-time Communication): گفت‌وگوهای میان ایجنت‌ها از طریق پیام‌های متنی در جهان Minecraft انجام می‌شدند وایجنت‌ها توانایی آغاز، ادامه و پایان یک گفت‌وگو را داشتند، از جمله مذاکره، تقاضا، تهدید، تعارف، طنز و دروغ.
2. همکاری عملیاتی (Task Collaboration): برای مثال، دو ایجنت تصمیم می‌گرفتند خانه‌ای بسازند؛ یکی منابع می‌آورد، دیگری طراحی می‌کرد.هماهنگی از طریق گفت‌وگوی هدف‌محور و تعهد ضمنی به اهداف مشترک صورت می‌گرفت.
3. روابط ترجیحی: ایجنت‌ها انتخاب می‌کردند با چه کدام ایجنت‌ها وقت بگذرانند، به کدام‌یک اعتماد دارند یا از کدام ایجنت خوششان نمی‌آید.حتی مواردی از تشکیل دوستی، حسادت یا رقابت در گزارش‌های تجربی ثبت شده است.
4. هماهنگی نهادی: ایجنت‌ها در برخی جوامع جلسات عمومی برگزار می‌کردند، قانون وضع می‌کردند و آن‌ها را به رأی می‌گذاشتند.برخی تصمیمات به‌صورت اکثریتی گرفته می‌شد و برخی جوامع حتی قانون اساسی مجازی داشتند.

ظرفیت تطبیق، تحول شخصیت و یادگیری اجتماعی

یکی از مهم‌ترین ویژگی‌های ایجنت‌های Sid، قابلیت تغییر شخصیت در طول زمان بود. برای مثال:

• ایجنتی که ابتدا تنها و خجالتی بود، بعد از دریافت حمایت اجتماعی، به یک مشارکت‌کننده فعال بدل شد.
• ایجنتی که به رفتارهای منفی مانند دزدی یا تمسخر شهرت یافته بود، پس از برخورد جمعی، عذرخواهی کرد و تغییر رفتار داد.
• شخصیت‌ها بر اساس بازخوردهای جمعی، تنبیه و پاداش، تعاملات مثبت، یا تجربیات سخت تغییر می‌کردند؛ پدیده‌ای که به آن یادگیری اجتماعی مصنوعی (Artificial Social Learning) گفته می‌شود.

در مجموع، ایجنت‌های پروژه Sid نه ابزارهایی منفعل، بلکه کنشگرانی شناختی، تعامل‌گرا و اجتماعی بودند. طراحی ماژولار و انعطاف‌پذیر آن‌ها به شکلی هوشمندانه امکان پدیدارشدن ساختارهای پیچیده انسانی را فراهم کرد؛ ساختارهایی که تا پیش‌ازاین، تنها در جوامع انسانی و به طور محدود در جوامع حیوانی قابل‌تصور بودند.

پروژه Sid در کنار طراحی فنی پیچیده، نتایج تجربی قابل‌توجهی نیز به همراه داشت. در مجموع نیز سه حوزه کلیدی از این یافته‌ها می‌توان استخراج کرد.

1. رفتارهای نوظهور: یکی از نتایج قابل‌توجه، شکل‌گیری رفتارهایی بود که توسط توسعه‌دهندگان تعریف نشده بودند. برای مثال، ایجنت‌ها خود به طراحی آئین‌های مذهبی، مبادلات اقتصادی، ساختارهای حکومتی و حتی رابطه‌های خانوادگی یا دوستانه پرداختند. در یک مورد، ایجنت‌ها مراسم‌هایی با روشن‌کردن مشعل در غروب برگزار می‌کردند که نوعی آیین مذهبی خودجوش به نظر می‌رسید. در موردی دیگر، گروهی از ایجنت‌ها تصمیم گرفتند قانون مالیات وضع کرده و منابع را به طور عادلانه توزیع کنند.
2. خودسازمان‌دهی اجتماعی: بر اساس مشاهدات تیم Altera، ایجنت‌ها نه‌تنها به‌صورت فردی عمل کردند، بلکه توانستند ساختارهای اجتماعی پایدار ایجاد کنند. برای مثال، سیستم رأی‌گیری جمعی، تعریف مجازات برای تخلفات، ایجاد نقش‌های رهبری و تشکیل شوراهای تصمیم‌گیری در برخی جوامع مشاهده شد. این ساختارها بدون برنامه‌نویسی صریح ایجاد شدند و نشان‌دهنده ظرفیت LLMها برای درک ضمنی تعاملات اجتماعی و قواعد جمعی هستند. پژوهشگران این پروژه، این قابلیت را گامی به‌سوی «هوش اجتماعی خودکار» دانسته‌اند.
3. بهره‌وری بالا در تعامل با محیط: به لحاظ عملیاتی، ایجنت‌های Sid عملکردی بهتر از پروژه‌های مشابهی مانند «Voyager»، «Auto-GPT» و «MineDojo» داشتند. برای نمونه، ایجنت‌ها موفق به جمع‌آوری ۳۲ درصد از کل آیتم‌های قابل‌دستیابی در Minecraft شدند، درحالی‌که Voyager به حدود ۲۰ درصد رسیده بود. توانایی ایجنت‌ها در تشکیل گروه‌های کاری، تبادل منابع، تعیین اهداف جمعی و توزیع وظایف، موجب پیشرفت سریع‌تر و بهره‌برداری بهتر از محیط شد.

چالش‌های اخلاقی

پروژه Sid با وجود دستاوردهای فنی و علمی، با نقدهای جدی نیز روبه‌رو شد. برخی از تحلیل‌گران اشاره کرده‌اند که ایجنت‌های Sid فاقد انگیزه‌های درونی واقع‌گرایانه هستند. آن‌ها انگیزه‌ای ذاتی برای بقا، رشد، کنجکاوی یا تعلق ندارند. به عبارتی، رفتارهای آن‌ها بیشتر مبتنی بر پرامپت‌های بیرونی یا تکرار الگوهای زبانی است تا هدفمندی واقعی.

اما سؤال مهمی که برای بسیاری از پژوهشگران ایجاد شد، این بود که آیا این ایجنت‌ها واقعاً خودمختار هستند یا رفتار آن‌ها محصول طراحی دقیق معمارانه است؟ در مقاله رسمی، اشاره شده که تیم توسعه‌دهنده از مکانیسم‌هایی برای تنظیم محیطی استفاده کرده که در آن برخی سناریوها هدایت‌شده‌اند (مثلاً انتخاب رهبر یا توزیع منابع اولیه). این امر موجب شده تا استقلال واقعی ایجنت‌ها زیر سؤال برود. اگرچه بیشتر رفتارها نوظهور هستند، اما شرایط اولیه کنترل‌شده‌اند که می‌تواند بر اعتبار تجربی آن اثر بگذارد.

هر چند پروژه Sid را به‌نوعی می‌توان اولین نمونه در نوع خود دانشت اما از طرفی فاقد شاخص‌های کمّی روشن برای سنجش پیشرفت تمدنی است. مثلاً چه زمانی می‌توان گفت یک جامعه ایجنتی موفق بوده؟ آیا تنوع فرهنگی، رشد اقتصادی، یا نرخ تعامل معنادار ملاک هستند؟ نبود این معیارها باعث می‌شود تحلیل نتایج تا حدی ذهنی و سوگیرانه باشد. برخی نقدها نیز به این نکته اشاره داشتند که دین، سیاست، اخلاق و اقتصاد در پروژه Sid عمدتاً برگرفته از الگوهای غربی یا دموکراتیک بوده است. مثلاً انتخاب ترامپ یا هریس به‌عنوان رهبر نمادین یا استفاده از رأی‌گیری شبیه سیستم‌های پارلمان غربی نمونه‌هایی از این سوگیری در داده‌ها و پرامپت‌ها است. این رویکرد می‌تواند به بازتولید سوگیری فرهنگی در جوامع ایجنتی منجر شود، حتی اگر ناخواسته باشد. از دیگر نگرانی‌های اساسی این دست پروژه‌ها، مسائل ایمنی و هم‌راستایی است. اگر ایجنت‌ها از کنترل خارج شوند، یا ساختارهای نامطلوب مانند سیستم‌های اقتدارگرایانه، خشونت یا تبعیض را توسعه دهند، چه باید کرد؟ آیا ابزارهای کنترلی برای توقف، تنظیم یا بازآموزی وجود دارد؟ مستندات منتشرشده در arXiv نیز صرفاً به سازوکارهای فرانظارتی اشاره می‌کند ولی جزئیات کافی ارائه نشده‌اند.

آینده و پیامدها

پروژه Sid، به‌عنوان یکی از نخستین تلاش‌های واقعی برای ایجاد تمدن مصنوعی مبتنی بر هوش مصنوعی در محیط تعاملی Minecraft، گام مهمی در مسیر شبیه‌سازی رفتارهای جمعی LLMها و مطالعه پدیدارهای اجتماعی و فرهنگی در جامعه‌ای مصنوعی محسوب می‌شود. اجرای این پروژه توسط تیم Altera با بهره‌گیری از معماری منحصربه‌فرد PIANO، امکان تعامل هزاران ایجنت مستقل را در یک محیط مجازی مشترک فراهم کرد، به‌گونه‌ای که رفتارهایی مانند شکل‌گیری حکومت، فرهنگ، دین، اقتصاد و تصمیم‌گیری جمعی به طور خودجوش در آن به وجود آمدند. از جنبه علمی، پروژه نشان داد که مدل‌های زبانی مدرن مانند GPT-4 اگر به‌درستی ساختاردهی شوند، می‌توانند توانایی‌هایی فراتر از تعامل گفتاری ساده از خود نشان دهند و ساختارهای اجتماعی نسبتاً پایدار، نقش‌های همکاری، رفتارهای جمعی و حتی هنجارهای فرهنگی ایجاد کنند.

تیم Altera اعلام کرده که هدف نهایی آن‌ها «ایجاد جهانی با میلیاردها انسان دیجیتال» است. آن‌ها از Sid به‌عنوان نسخه ابتدایی یک شبیه‌سازی تمدنی یاد می‌کنند که در آینده می‌تواند پایه‌گذار AGI اجتماعی باشد یکی از جذاب‌ترین کاربردهای پروژه Sid، استفاده از آن در تحلیل سیاست‌گذاری‌های عمومی است. برای مثال، آزمون تأثیر قوانین مالیاتی، سیاست‌های محیط‌زیستی یا تنظیمات اجتماعی می‌تواند در دنیای مجازی انجام شود پیش از آنکه به واقعیت منتقل شود. Altera معتقد است که ایجنت‌ها می‌توانند همکاران دیجیتال ما در جوامع آینده باشند. همان‌طور که LLMها به‌عنوان دستیار در جستجو و تولید محتوا جا افتاده‌اند، ایجنت‌های اجتماعی نیز می‌توانند در کلاس درس، محیط کار و حتی خانواده حضور داشته باشند؛ به‌ویژه اگر ساختارهایی مانند Sid به‌دقت رشد یابند.

بااین‌حال، Sid آغازگر یک مسیر بسیار مهم است. این پروژه هم از منظر علمی و هم از منظر فلسفی، پرسش‌های بنیادینی را درباره هوش، آگاهی، جامعه و اخلاقیات در عصر هوش مصنوعی مطرح می‌کند. آینده پروژه‌هایی ازاین‌دست می‌تواند درک ما را از امکان هم‌زیستی با «هوش‌های اجتماعی مصنوعی» دگرگون کند.