جفت Rust تازه در ICP، حلقه‌های عامل و جست‌وجوی برداریِ ارتقا‌پذیر را به هم وصل می‌کند

یک مجموعه‌ابزار جامعه‌محور جدید، ساخت برنامه‌هایی را که مدل‌های زبانی را با جست‌وجوی معنایی پایدار ترکیب می‌کنند، برای اکوسیستم Rust در ICP عملی‌تر می‌سازد. در ۲۷ اوت، پستی در انجمن توسعه‌دهندگان Internet Computer، دو کتابخانه ic-rig و ic-hnsw را معرفی کرد که بخش‌های متفاوتی از همین پشته نرم‌افزاری را هدف گرفته‌اند.

ic-rig یک کتابخانه ماژولار برای برنامه‌های LLM است. ماژول‌های مستندشده آن پیام‌ها، مدل‌های تکمیل، ابزارها، حلقه‌های عامل، embeddingها، مخازن برداری و سازگاری با WebAssembly را پوشش می‌دهند. این کتابخانه وابسته به یک ارائه‌دهنده خاص نیست و برای OpenAI، Anthropic، Google Gemini و DeepSeek یکپارچه‌سازی مستندشده دارد. همچنین عمداً یک HTTP client داخلی ارائه نمی‌کند؛ توسعه‌دهنده باید پیاده‌سازی انتزاع HttpClient را متناسب با محیط اجرای برنامه فراهم کند.

این طراحی برای ICP اهمیت دارد. یک canister نمی‌تواند صرفاً یک محیط متعارف شبکه در ماشین‌های بومی را فرض کند؛ بنابراین جدا کردن orchestration مدل از لایه انتقال، به سازنده اجازه می‌دهد شیوه اجرای HTTP خروجی و مجوزهای آن را انتخاب کند. در نتیجه می‌توان منطق برنامه را برای یک canister در ICP، یک محیط WASM محلی یا یک سرویس بومی ساخت، در حالی که مرز انتقال همچنان صریح باقی می‌ماند.

ic-hnsw سمت ذخیره‌سازی و بازیابی را هدف می‌گیرد. این کتابخانه جست‌وجوی برداری «دنیای کوچکِ قابل پیمایش سلسله‌مراتبی» را برای canisterهای ICP فراهم می‌کند و دو شیوه استقرار را مستند کرده است: افزودن کتابخانه به یک canister موجود یا استقرار آن به‌عنوان یک canister مستقل. API عمومی آن عملیات درج و جست‌وجو را در بر می‌گیرد و لایه ذخیره‌سازی مستندشده از StableBTreeMapهای thread-local استفاده می‌کند؛ بنابراین state می‌تواند پس از ارتقا باقی بماند، بدون اینکه فراخوان مجبور باشد hookهای پیش و پس از ارتقا را مدیریت کند.

ترکیب این دو کتابخانه یک معماری کاربردی پیشنهاد می‌کند: ic-rig می‌تواند گفت‌وگوی مدل و حلقه فراخوانی ابزارها را مدیریت کند؛ برنامه می‌تواند اسناد یا حافظه‌ها را با embedding نمایش دهد؛ و ic-hnsw می‌تواند بازیابی تقریبی نزدیک‌ترین همسایه را از state موجود در canister انجام دهد. این ترکیب یک پلتفرم کامل هوش مصنوعی نیست، بلکه مجموعه‌ای از مرزهای جداشدنی است که توسعه‌دهنده می‌تواند هرکدام را مستقل بررسی یا جایگزین کند.

یک محدودیت مهم وجود دارد. هر دو کتابخانه نسخه‌های اولیه ۰.۱.۰ هستند و منابع موجود هیچ benchmark عملکردی برای محیط تولید یا تأیید رسمی DFINITY ارائه نمی‌کنند. سازندگان باید پیش از استفاده از این جفت به‌عنوان زیرساخت تولیدی، مصرف حافظه، هزینه update/query، رفتار HTTP، مسیرهای ارتقا و نحوه مدیریت خطای ارائه‌دهندگان مدل را آزمایش کنند.

برای توسعه‌دهندگان ICP، سیگنال به‌موقع این خبر بیشتر معماری است تا عدد و رقم: ابزارهای جامعه در حال بسته‌بندی حلقه عامل، خط لوله embedding و شاخص برداری پایدار به‌صورت مؤلفه‌های قابل ترکیب Rust هستند؛ آن هم با درنظرگرفتن محدودیت‌های WASM و canister. این روند مقدار plumbing لازم برای آزمایش قابلیت‌های هوش مصنوعی را کاهش می‌دهد و در عین حال مرزهای مهم اعتماد و اجرای runtime را قابل مشاهده نگه می‌دارد.