J-Space چیست؟ آیا Claude قبل از پاسخ دادن واقعاً «فکر» می‌کند؟

چند سال بود که تصور می‌کردیم مدل‌های زبانی مانند ChatGPT یا Claude فقط کلمه بعدی را پیش‌بینی می‌کنند؛ یعنی هر توکن را بر اساس توکن‌های قبلی انتخاب می‌کنند و تمام.

اما تحقیقات جدید Anthropic نشان می‌دهد که حداقل در Claude، ماجرا پیچیده‌تر از این است.

آن‌ها موفق شدند چیزی را کشف کنند که J-Space نام دارد؛ فضایی داخلی که مدل قبل از تولید پاسخ، اطلاعات را در آن سازمان‌دهی، ترکیب و پردازش می‌کند.

به زبان ساده، J-Space شبیه میز کار ذهنی (Mental Workspace) مدل است.

یک مثال ساده؛ خرید نان

فرض کنید مادرتان به شما می‌گوید:

”

برو از نانوایی دو تا نان بخر.

اگر شما یک ربات کاملاً ساده باشید، شاید فقط جمله را بشنوید و شروع کنید به راه رفتن.

اما انسان این کار را این‌گونه انجام نمی‌دهد.

در ذهن شما همزمان اتفاقات زیادی رخ می‌دهد:

• نزدیک‌ترین نانوایی کجاست؟
• پول همراهم هست؟
• باید از خانه خارج شوم.
• شاید نانوایی شلوغ باشد.
• بعد از خرید باید برگردم.

شما هیچ‌وقت این مراحل را با صدای بلند برای خودتان نمی‌گویید.

همه این‌ها داخل ذهن شما اتفاق می‌افتد.

Anthropic می‌گوید Claude هم چیزی شبیه همین فضای ذهنی دارد.

قبل از اینکه حتی اولین کلمه پاسخ را بنویسد، بسیاری از مفاهیم داخل J-Space فعال می‌شوند.

مثال دوم؛ دستور پخت کیک

فرض کنید از Claude بپرسید:

”

چطور یک کیک شکلاتی درست کنم؟

ممکن است فکر کنید مدل فقط جواب آماده‌ای را از حافظه بیرون می‌آورد.

اما احتمالاً چیزی شبیه این در J-Space رخ می‌دهد:

کاربر فقط متن نهایی را می‌بیند.

اما قبل از آن، مدل مفاهیم مختلف را کنار هم قرار داده و بین آن‌ها ارتباط برقرار کرده است.

در واقع J-Space مانند آشپزخانه است و پاسخ نهایی همان غذایی است که روی میز قرار می‌گیرد.

مثال معروف Anthropic؛ فقط به یک پل فکر کن!

یکی از جالب‌ترین آزمایش‌های Anthropic بسیار ساده بود.

آن‌ها از Claude خواستند:

”

فقط به یک پل فکر کن. اسمش را نگو.

Claude هیچ نامی از پل نبرد.

اما وقتی پژوهشگران J-Space را بررسی کردند، متوجه شدند مفاهیمی مرتبط با Golden Gate Bridge در فضای داخلی مدل فعال شده‌اند.

یعنی حتی زمانی که مدل چیزی درباره پل نمی‌نویسد، باز هم در فضای ذهنی خودش روی یک مفهوم مشخص تمرکز کرده است.

این موضوع نشان می‌دهد مدل قبل از تولید پاسخ، واقعاً یک نمایش ذهنی از مفهوم موردنظر ایجاد می‌کند.

حتی عجیب‌تر؛ دانشمندان ذهن Claude را تغییر دادند!

اینجاست که تحقیق Anthropic هیجان‌انگیز می‌شود.

آن‌ها فقط J-Space را مشاهده نکردند.

بلکه روی آن اثر گذاشتند.

در یکی از آزمایش‌ها، Claude از بین چند ورزش باید یکی را انتخاب می‌کرد.

داخل J-Space مفهوم Soccer فعال شده بود.

پژوهشگران همان فعالیت عصبی را دستکاری کردند و آن را به Rugby تغییر دادند.

نتیجه چه شد؟

بدون اینکه سؤال تغییر کند، Claude این بار پاسخ داد:

”

Rugby

یعنی J-Space فقط یک نمایش تصویری از فکر نیست؛ بلکه مستقیماً روی تصمیم نهایی مدل تأثیر می‌گذارد.

آیا این همان Chain of Thought است؟

خیر.

بسیاری این دو را با هم اشتباه می‌گیرند.

Chain of Thought یعنی مدل مراحل فکر کردن را می‌نویسد.

مثلاً:

اما در J-Space هیچ متنی نوشته نمی‌شود.

تمام این پردازش‌ها داخل شبکه عصبی انجام می‌شوند و کاربر فقط پاسخ نهایی را می‌بیند.

به همین دلیل Anthropic می‌گوید J-Space بسیار بنیادی‌تر از Chain of Thought است.

چرا J-Space اهمیت دارد؟

تا امروز تقریباً هیچ راهی برای دیدن فرآیند تصمیم‌گیری مدل‌های زبانی وجود نداشت.

ما فقط ورودی و خروجی را مشاهده می‌کردیم.

اما حالا برای اولین بار پژوهشگران می‌توانند تا حدی ببینند که مدل قبل از پاسخ دادن به چه چیزهایی فکر می‌کند.

این موضوع می‌تواند کاربردهای زیادی داشته باشد:

• تشخیص Prompt Injection
• بررسی دلایل تصمیم‌گیری مدل
• افزایش امنیت هوش مصنوعی
• کشف رفتارهای مخفی مدل
• درک بهتر نحوه استدلال مدل‌های زبانی

آیا این یعنی Claude آگاه شده است؟

خیر.

Anthropic تأکید می‌کند که J-Space به معنی خودآگاهی، احساس یا داشتن ذهن انسان‌گونه نیست.

آنچه کشف شده، یک فضای محاسباتی داخلی است که اطلاعات را قبل از تولید پاسخ هماهنگ می‌کند.

به بیان دیگر، Claude هنوز یک مدل هوش مصنوعی است؛ اما اکنون می‌دانیم که قبل از تولید پاسخ، چیزی شبیه یک «میز کار ذهنی» درون شبکه عصبی آن فعال می‌شود.

جمع‌بندی

کشف J-Space شاید یکی از مهم‌ترین پیشرفت‌های سال‌های اخیر در تحقیقات هوش مصنوعی باشد. این پژوهش نشان می‌دهد مدل‌هایی مانند Claude فقط ماشین‌های پیش‌بینی کلمه نیستند، بلکه پیش از تولید پاسخ، اطلاعات را در یک فضای داخلی سازمان‌دهی و پردازش می‌کنند.

اگر این تحقیقات ادامه پیدا کند، ممکن است در آینده بتوانیم فرآیند تصمیم‌گیری مدل‌های هوش مصنوعی را شفاف‌تر، قابل‌بررسی‌تر و ایمن‌تر کنیم؛ موضوعی که برای توسعه نسل بعدی دستیارهای هوشمند اهمیت بسیار زیادی خواهد داشت.