اوپنایآی سیستمی معرفی کرد که سوءاستفاده از هوش مصنوعی را رصد میکند بدون اینکه هیچ دادهای از کاربران نگه دارد؛ این در حالی است که آنتروپیک بهطور پیشفرض گفتگوها را ۳۰ روز نگه میدارد.
پسزمینهٔ این ماجرا یک نگرانی ساده اما مهم است: وقتی با یک چتبات حرف میزنیم، آن گفتگوها کجا میروند و چه کسی میتواند بخواندشان؟ این هفته این پرسش به خط مقدم رقابت شرکتهای هوش مصنوعی تبدیل شد.
اوپنایآی سرویسی به نام Private Safety Processing را برای مشتریان سازمانی رونمایی کرد؛ سامانهای خودکار که رفتار کاربران را از نظر سوءاستفاده — مثلاً تلاش برای ساخت بدافزار در چند گفتگوی پراکنده — تحلیل میکند، اما به ادعای خود شرکت هیچیک از دادههای مشتری را نگه نمیداشت و بازبینی انسانی هم صورت نمیگیرد. اگر سیستم فعالیت مشکوکی ببیند، فقط یک «سیگنال محدود» به اوپنایآی میفرستد و شرکت ابتدا با خود مشتری تماس میگیرد.
این حرکت واکنشی است به سیاست تازهٔ آنتروپیک؛ شرکتی که اعلام کرده گفتگوهای کاربران مدلهای ردهٔ بالایش را به مدت ۳۰ روز نگه میدارد — سیاستی که نارضایتی برخی مشتریان را برانگیخت. البته آنتروپیک تأکید کرده بازبینی انسانی فقط از مسیر کنترلشده و توسط تعداد کمی بازبین تأییدشده انجام میشود و هر جلسهٔ بازبینی در لاگ ضد دستکاری ثبت میگردد.
نکتهٔ مهم برای کاربران عادی این است که این رقابت، استاندارد صنعت را بالا میبرد: وقتی دو شرکت بزرگ بر سر «کمتر نگهداشتن داده» رقابت میکنند، بقیه هم مجبور میشوند شفافتر باشند. تا آن زمان، توصیهٔ همیشگی سر جای خودش است: اطلاعات حساس شخصی، مالی یا کاری را در گفتگو با هر چتباتی — از هر شرکتی — وارد نکنید.
