آیین‌نامه هوش مصنوعی Rust، ایمنی مشارکت را به قراردادی قابل‌بررسی تبدیل می‌کند

جدیدترین قاعده مشارکت در Rust بیشتر از آن‌که درباره ممنوع‌کردن هوش مصنوعی باشد، درباره حفاظت از فرایند بررسی انسانی است؛ همان فرایندی که به قابل‌اعتمادبودن کامپایلر کمک می‌کند.

پروژه Rust در ۵ اوت اعلام کرد که پنج تیم، سیاست استفاده از مدل‌های زبانی بزرگ را برای مخزن rust-lang/rust پذیرفته‌اند. این سیاست میان کمک خصوصی و مشارکت عمومی تفاوت می‌گذارد: مشارکت‌کنندگان می‌توانند به‌صورت خصوصی از مدل زبانی برای پرسیدن سؤال، خلاصه‌کردن گفتگوها، بررسی کد یا بررسی راه‌حل‌های احتمالی استفاده کنند. اما نظرها، متن مسائل و درخواست‌های ادغام، مستندات و پیام‌های خطایی که اساساً توسط مدل زبانی تولید شده باشند، عموماً ممنوع‌اند.

مرز اصلی، مالکیت فکری و مسئولیت نویسندگی است. مدل زبانی می‌تواند به مشارکت‌کننده در فهم یا بهبود کار کمک کند، اما نباید جای قضاوت فنی او را بگیرد یا نویسنده متن‌های پروژه شود. سیاست همچنین می‌گوید بررسی هوش مصنوعی نمی‌تواند جای تصمیم انسانی را بگیرد. بررسی‌های خودکار فقط می‌توانند مشورتی باشند و نگه‌دارنده پروژه باید مستقل از آن‌ها تصمیم بگیرد که آیا یک ایراد مانع ادغام است یا نه.

کد تولیدشده به‌طور کامل کنار گذاشته نشده است. سیاست برای تغییرات ازپیش‌هماهنگ‌شده، غیرحیاتی، آزموده‌شده و باکیفیت که به‌خوبی بررسی شده‌اند، یک آزمایش محدود ایجاد می‌کند. مشارکت‌کنندگان جدید باید ابتدا یک بررسی‌کننده مایل پیدا کنند، استفاده از مدل زبانی را اعلام کنند و درخواست ادغام را با برچسب ai-assisted مشخص سازند. این استثنا عمداً محدود است: تغییرات مربوط به بخش‌هایی با پیامدهای جدی برای soundness معمولاً در محدوده امن آزمایش قرار نمی‌گیرند.

این سیاست یک ترمز عملیاتی هم دارد. اگر درخواست‌های ادغامِ تولیدشده با مدل زبانی در یک بازه شش‌هفته‌ای بیش از نیمی از درخواست‌های ادغام‌شده را تشکیل دهند، ادغام درخواست‌های جدید از این نوع متوقف می‌شود تا نسبت دوباره به زیر آن آستانه برسد؛ یک دوره توقف حداقلی نیز در نظر گرفته شده است. این سازوکار، حجم مشارکت را یک سیگنال ایمنی می‌داند و فرض نمی‌کند که خودکارسازی بیشتر همیشه بهتر است.

برای سازندگان Rust، درس عملی این سیاست از قواعد داخلی یک مخزن فراتر می‌رود. وصله‌ای که با کمک هوش مصنوعی ساخته شده است همچنان به انسانی نیاز دارد که کد را بفهمد، بتواند طراحی را توضیح دهد و مسئول نتیجه باشد. سبزشدن آزمون‌ها یا تأیید یک مدل زبانی، مدرک است، نه مجوز.

دو نکته احتیاطی مهم است. نخست، این سیاست سراسری برای کل پروژه Rust نیست: فقط به rust-lang/rust و پنج تیم تصویب‌کننده آن مربوط می‌شود و مخازن و تیم‌های دیگر می‌توانند قواعد خود را تعیین کنند. دوم، اجازه کد تولیدشده با مدل زبانی یک آزمایش است؛ بنابراین ممکن است با جمع‌آوری شواهد، شرایط آن تغییر کند یا کاملاً کنار گذاشته شود.