هوش مصنوعی مسئولانه
آخرین بهروزرسانی: اوت ۲۰۲۶
این صفحه توضیح میدهد که ما هوش مصنوعی را چگونه میسازیم و به کار میگیریم: تعهدهایی که به مشتریان میدهیم، کارهایی که نمیپذیریم، و محدودیتهایی که دربارهٔ آنها صادقیم. این اصول بر همهٔ پروژهها و بر نُوا، دستیار این وبسایت، حاکم است.
۱. موضع ما
هوش مصنوعی یک ابزار است، نه یک استراتژی. بیشترِ ارزش یک پروژهٔ هوش مصنوعی از انتخاب مسئلهٔ درست میآید، و بخش قابلتوجهی از کار ما این است که به مشتری بگوییم کدامیک از ایدههایش را هوش مصنوعی خوب حل نخواهد کرد. ترجیح میدهیم فروش را از دست بدهیم تا اینکه سامانهای تحویل دهیم که بیسروصدا کارش را بد انجام میدهد. هر پروژه از مسئلهٔ کسبوکار و از آدمهایی که کار را انجام میدهند آغاز میشود، نه از فناوری.
۲. همیشه یک انسان پاسخگوست
هر سامانهای که تحویل میدهیم به یک مالک مشخص در سمت مشتری سپرده میشود، تا همیشه روشن باشد چه کسی پاسخگوی رفتار آن است. ما هوش مصنوعی را برای پیشنهاد دادن، پیشنویس نوشتن و دستهبندی کردن طراحی میکنیم، نه برای گرفتن تصمیم نهایی دربارهٔ آدمها. هرجا سامانهای با شغل، پول، سلامت، ایمنی یا دسترسی کسی به یک خدمت سروکار داشته باشد، یک مرحلهٔ بازبینی انسانی در آن تعبیه میکنیم و توصیه میکنیم که آن مرحله حفظ شود — و اگر فرایند مشتری اجازهٔ چنین چیزی را ندهد، پیش از ساخت میگوییم، نه بعد از آن. آنچه پس از تحویل اتفاق میافتد تصمیم مشتری است. آنچه در کنترل ماست این است که سامانه قابل بازبینی طراحی شده باشد و این توصیه صریح داده شده باشد.
۳. چه چیزهایی نمیسازیم
مشخص بودن مفیدتر از اصولی حرف زدن است، پس فهرست واقعیاش این است. اینها را نمیپذیریم:
- سامانههایی که رفتار، ضربات صفحهکلید، احساسات یا بهرهوری کارکنان را برای نظارت رصد میکنند
- تشخیص احساسات، یا استنتاج وضعیت سلامت، گرایش جنسی، مذهب، نژاد یا دیدگاه سیاسی از چهره، صدا یا رفتار
- تصمیمهای خودکار دربارهٔ استخدام، اخراج، اعتبار مالی، بیمه یا اجاره بدون بازبینی انسانی
- رباتهایی که ادعا میکنند یا وانمود میکنند انساناند
- جمعآوری دادهٔ شخصی با اسکرپینگ، یا هر استفادهای از دادهٔ شخصی که صاحبِ آن داده از آن جا بخورد
- رابطهایی که برای فشار آوردن، گمراه کردن، یا سخت کردنِ «نه گفتن» طراحی شدهاند
این فهرست کامل نیست. هرجا درخواستی به مرز نزدیک باشد آن را مطرح میکنیم و دربارهٔ آن گفتگو میکنیم، نه اینکه بیصدا و بهجای شما تصمیم بگیریم.
۴. دادهٔ شما مال خودتان میماند
با کمترین دادهٔ ممکن که پروژه لازم دارد کار میکنیم، و هرجا عملی باشد داخل حسابها و فضای خودِ شما میسازیم تا دادهتان زیر کنترل خودتان بماند. از دادهٔ مشتری یا اسناد مشتری برای آموزش هیچ مدلی استفاده نمیکنیم و مطالب یک مشتری را برای مشتری دیگر به کار نمیبریم. اگر پروژهای به ارائهدهندهٔ هوش مصنوعی ثالث نیاز داشته باشد، پیش از ارسال هر چیزی به شما میگوییم آن ارائهدهنده کیست و پردازش کجا انجام میشود، و شما را به شرایط منتشرشدهٔ خودِ آن ارائهدهنده ارجاع میدهیم تا قواعد نگهداری داده را مستقیم بررسی کنید. اطلاعات شخصی مطابق قانون حریم خصوصی ۱۹۸۸ استرالیا و اصول حریم خصوصی استرالیا مدیریت میشود — جزئیات در سیاست حریم خصوصی ما آمده است.
۵. دربارهٔ دقت صادقیم
مدلهای زبانی گاهی با اطمینان کامل اشتباه میکنند و هیچ مقدار مهندسی این را از میان نمیبرد. ما هیچ عددی دربارهٔ دقت اعلام نمیکنیم مگر آنکه آن را روی دادهٔ خودِ شما سنجیده باشیم. بهجایش برای خطا طراحی میکنیم: سامانه منابعش را ذکر میکند تا بتوان پاسخ را بررسی کرد، موارد کماطمینان بهجای حدس زدن به یک انسان ارجاع داده میشوند، و از پیش با شما توافق میکنیم که سامانه وقتی نمیداند چه کار کند. پیش از تحویل، با نمونههای واقعی و دشوارِ خودتان آزمایش میکنیم، نه با یک سناریوی نمایشی.
۶. آدمها باید بدانند طرف مقابل هوش مصنوعی است
هر کسی که با سامانهای که ما ساختهایم صحبت میکند، زود و به زبان ساده میفهمد که با یک سامانه طرف است. پیشنویسهایی که با هوش مصنوعی تولید میشوند و به نام یک شخص منتشر میشوند، بررسیشان همچنان بر عهدهٔ همان شخص است. به مشتریان توصیه میکنیم استفادهٔ مؤثر از هوش مصنوعی را به مشتریان خودشان اعلام کنند، و روی همین سایت خودمان را هم به همان استاندارد ملزم میدانیم.
۷. نُوا، دستیار این سایت
نُوا با استفاده از یک مدل زبانی و بر پایهٔ مطالب منتشرشدهٔ خودمان به پرسشها دربارهٔ خدمات ما پاسخ میدهد. خودش را بهعنوان دستیار معرفی میکند. ممکن است اشتباه کند، و پاسخهایش اطلاعات عمومی است نه مشاورهٔ حرفهای. نُوا تصمیم نمیگیرد، پرداختی انجام نمیدهد و به حساب کاربری دسترسی ندارد. گفتگوها در برابر یک شناسهٔ نشستِ مستعار ذخیره میشوند. ما مسیریابی مدل را چنان پیکربندی کردهایم که هیچ درخواستی به ارائهدهندهای که روی آن آموزش میبیند فرستاده نشود، و مدلهای پشت نُوا توسط Google ارائه میشوند. آنچه نمیتوانیم قول بدهیم این است که هیچ چیزی اصلاً نگهداری نشود، بنابراین همچنان از شما میخواهیم اطلاعات محرمانه یا هویتی وارد نکنید — جزئیات در بخش ۴ سیاست حریم خصوصی آمده است. آنچه را نُوا نتواند پاسخ دهد، یک انسان میخواند.
۸. استانداردهایی که به آنها پایبندیم
عملکرد خود را با اصول اخلاقی هوش مصنوعی استرالیا (Australia's AI Ethics Principles) و استاندارد داوطلبانهٔ ایمنی هوش مصنوعی دولت استرالیا (Voluntary AI Safety Standard)، و نیز با قانون حریم خصوصی ۱۹۸۸ و اصول حریم خصوصی استرالیا همراستا میکنیم. اگر مشتری زیر نظر یک تنظیمگر بخشی یا سیاست داخلی هوش مصنوعی کار کند، به آن هم پایبند میشویم. ما هیچ گواهینامهٔ هوش مصنوعی نداریم و ادعایش را هم نمیکنیم — ترجیح میدهیم آنچه واقعاً انجام میدهیم را شرح دهیم و بررسیاش را به شما بسپاریم.
۹. اگر اشتباه کردیم بگویید
اگر چیزی که ساختهایم یا اجرا میکنیم بهگونهای رفتار کرد که ناعادلانه، گمراهکننده یا ناایمن به نظر میرسد، میخواهیم بدانیم. به hello@naghmehelahi.com.au بنویسید و آنقدر جزئیات بدهید که بتوان فهمید کدام سامانه و چه اتفاقی. ما تیم کوچکی هستیم و نمیتوانیم قول بدهیم هر گزارشی را بررسی کنیم، ولی آنچه میرسد را میخوانیم و تلاش میکنیم به گزارشهای ماهوی ظرف ده روز کاری پاسخ دهیم. اگر نگرانی وارد باشد، میگوییم چه چیزی را تغییر میدهیم؛ و اگر موافق نباشیم، صریح میگوییم چرا. آسیبپذیریهای امنیتی کانال جدا و تعهد سریعتری دارند — /.well-known/security.txt را ببینید.