استفاده مسئولانه از هوش مصنوعی در پاسخ‌گویی به مشتری
شش اصل برای استفاده مسئولانه از هوش مصنوعی در پاسخ‌گویی به مشتری: شفافیت، راه ارتباط با انسان، دوری از توصیه پزشکی و حقوقی، رضایت و مرور پاسخ‌ها.
هوش مصنوعی به کسب‌وکارها کمک می‌کند سریع‌تر و در همه ساعت‌ها به مشتری جواب بدهند. اما هر جوابی که دستیار هوشمند شما می‌دهد، از زبان شما گفته می‌شود. اگر قیمتی را اشتباه بگوید، قولی بدهد که نمی‌توانید عملی کنید یا به کسی توصیه پزشکی کند، مشتری آن را پای کسب‌وکار شما می‌نویسد، نه پای نرم‌افزار.
استفاده مسئولانه از هوش مصنوعی به معنای ترسیدن از آن نیست؛ یعنی چند قاعده ساده که اعتماد مشتری را حفظ می‌کنند. در این مقاله شش اصل را مرور می‌کنیم و برای هر کدام می‌گوییم در عمل چه باید کرد. این اصول برای هر چت‌باتی کاربرد دارند و هر جا لازم باشد، به قوانین استفاده از آیوا هم اشاره می‌کنیم. اگر با مفهوم چت‌بات تازه آشنا شده‌اید، راهنمای جامع چت‌بات سایت را هم ببینید.
مسئولیت با کیست؟
یک نکته را از اول روشن کنیم: هوش مصنوعی ممکن است اشتباه کند. قوانین استفاده از آیوا هم صریحاً می‌گوید خروجی مدل‌های هوش مصنوعی ممکن است نادقیق، ناقص، قدیمی یا گمراه‌کننده باشد و کاربر متعهد است پیش از استفاده عملی، درستی آن را بررسی کند. در همین قوانین آمده که پاسخ‌ها به‌طور خودکار و بر اساس داده‌هایی تولید می‌شوند که خود کاربر داده است، و مالکیت و مسئولیت آن داده‌ها با خود اوست.
این یعنی دستیار هوشمند ابزار شماست، نه جانشین مسئولیت شما. اصول زیر کمک می‌کنند این ابزار را طوری به کار ببرید که به اعتبارتان اضافه کند، نه اینکه از آن کم کند.
اصل ۱: بگویید که مشتری با دستیار هوشمند حرف می‌زند
مشتری حق دارد بداند طرف گفتگویش انسان است یا هوش مصنوعی. پنهان کردن این موضوع شاید در نگاه اول طبیعی‌تر به نظر برسد، اما وقتی مشتری متوجه شود، اعتمادش آسیب می‌بیند.
در عمل:
- برای دستیار اسم انسانی ساختگی، مثل «سارا از پشتیبانی»، انتخاب نکنید. راهنمای ساخت آیوا هم پیشنهاد می‌کند نام دستیار، نام برند یا کسب‌وکار شما باشد.
- پیام خوشامد خودکار آیوا، دستیار را «دستیار هوشمند» معرفی می‌کند. روشن و خاموش کردن این پیام از پلن آیوا هوشمند ممکن است.
- در صفحه‌ای که ویجت را نصب کرده‌اید یا در صفحه راهنمای سایت، با یک جمله کوتاه بگویید که پاسخ‌های چت را دستیار هوشمند می‌دهد؛ برای مثال: «به سؤال‌های شما در این چت، دستیار هوشمند فروشگاه نمونه جواب می‌دهد. اگر خواستید با یکی از همکاران ما صحبت کنید، شماره تماس در پایین همین صفحه است.»
اصل ۲: فقط در محدوده دانسته‌هایش جواب بدهد
دستیاری که برای هر سؤالی جوابی می‌سازد، خطرناک است. به این پدیده «توهم هوش مصنوعی» می‌گویند و در مقاله توهم هوش مصنوعی چیست؟ مفصل توضیحش داده‌ایم.
در آیوا چند قاعده پایه در همه پلن‌ها برقرار است. دستیار فقط درباره کسب‌وکار شما و فقط از روی پایگاه دانش یا نتیجه ابزارهای متصل جواب می‌دهد، قیمت و تخفیف از خودش نمی‌سازد، کارهای بی‌ربط مثل برنامه‌نویسی یا حل تمرین را رد می‌کند و وقتی جواب را نداند، می‌گوید: «اطلاعاتی در این باره در دسترسم نیست.»
اما این قاعده‌ها فقط وقتی کار می‌کنند که محتوای شما درست باشد. اگر در پایگاه دانش قیمت قدیمی یا قولی نوشته باشید که دیگر برقرار نیست، دستیار همان را تکرار می‌کند. پس:
- برای هر موضوع فقط یک منبع معتبر نگه دارید.
- بعد از هر تغییر قیمت یا قانون، محتوا را به‌روز کنید.
- قول‌هایی مثل «ارسال در ۲۴ ساعت» را فقط وقتی بنویسید که واقعاً به آن عمل می‌کنید.
اصل ۳: راه رسیدن به انسان را باز بگذارید
هیچ دستیار هوشمندی همه مسائل را حل نمی‌کند. مشتری ناراضی، درخواست استثنا یا مشکل پیچیده به انسان نیاز دارد و مشتری باید بداند چطور به او برسد. در آیوا این راه‌ها وجود دارد:
- انتقال به اپراتور در گفتینو (همه پلن‌ها): زیر هر جواب هوش مصنوعی دکمه «گفتگو با اپراتور» هست و با زدنش، گفتگو به اپراتورهای شما سپرده می‌شود. خود آیوا چت زنده با اپراتور ندارد و انتقال گفتگو فقط از این مسیر ممکن است. جزئیات را در مقاله هوش مصنوعی برای گفتینو ببینید.
- شماره پشتیبانی (از پلن آیوا هوشمند): دستیار آن را وقتی می‌گوید که کاربر راه تماس بخواهد یا جواب سؤالی را نداند.
- اطلاعات تماس در پایگاه دانش (همه پلن‌ها): تلفن، نشانی و ساعت پاسخ‌گویی را در محتوایتان بنویسید تا دستیار وقتی از او پرسیدند، بگوید.
برای اینکه تصمیم بگیرید کدام موضوع‌ها همیشه باید به انسان برسند، مقاله کدام سؤال‌ها را به چت‌بات بسپاریم و کدام را به انسان؟ را بخوانید.
اصل ۴: از توصیه پزشکی، حقوقی و مالی دور بماند
این مهم‌ترین خط قرمز است. همان قوانین استفاده، «ارائه تجویز پزشکی، حقوقی یا مالی» را جزو موارد استفاده ممنوع آورده است. دلیلش روشن است: یک جواب اشتباه در این حوزه‌ها می‌تواند به سلامت، حقوق یا دارایی کسی آسیب بزند.
این به معنای کنار گذاشتن چت‌بات در کلینیک یا دفتر حقوقی نیست. دستیار می‌تواند به سؤال‌های اداری جواب بدهد: ساعت کاری، هزینه ویزیت یا مشاوره، بیمه‌های طرف قرارداد، مدارک لازم و نحوه گرفتن نوبت. در عمل:
- در پایگاه دانش فقط اطلاعات اداری بگذارید، نه توصیه درمانی یا تفسیر حقوقی.
- در «دستورالعمل‌ها» بنویسید که اگر کسی درباره علائم بیماری، دارو یا پرونده حقوقی‌اش پرسید، دستیار توضیح بدهد که در این باره نظر نمی‌دهد و راه تماس با پزشک یا وکیل را بگوید.
- این رفتار را پیش از انتشار با چند سؤال واقعی آزمایش کنید.
برای مثال، در «دستورالعمل‌ها»ی «کلینیک الف» می‌شود نوشت: «اگر کاربر درباره علائم بیماری، دارو یا نتیجه آزمایش پرسید، توضیح بده که نمی‌توانی نظر پزشکی بدهی و بگو برای این موضوع با پذیرش کلینیک تماس بگیرد.» شماره پذیرش را هم در پایگاه دانش بنویسید تا دستیار بتواند آن را بگوید.
نمونه‌های بیشتر را در مقاله چت‌بات برای کلینیک و مطب آورده‌ایم.
اصل ۵: داده را با رضایت و به اندازه جمع کنید
قوانین استفاده، «جمع‌آوری داده‌های حساس اشخاص بدون رضایت» را هم ممنوع کرده است. در عمل:
- در فرم ثبت‌نام پیش از گفتگو، که در همه پلن‌ها هست، فقط فیلدهایی را فعال کنید که واقعاً لازم دارید؛ نام، موبایل و ایمیل هر سه اختیاری‌اند.
- در صفحه حریم خصوصی سایتتان بنویسید این اطلاعات برای چه جمع می‌شود.
- اطلاعات حساسی مثل شماره کارت یا کد ملی را در چت نخواهید.
- اطلاعات مخاطبان را فقط برای همان هدفی به کار ببرید که گفته‌اید؛ اگر شماره‌ای را برای پیگیری سفارش گرفته‌اید، آن را به فهرست پیامک تبلیغاتی اضافه نکنید.
جنبه‌های امنیتی این موضوع را در مقاله امنیت و حریم خصوصی در چت‌بات مفصل‌تر بررسی کرده‌ایم.
اصل ۶: پاسخ‌ها را مرور کنید
دستیار هوشمند را نمی‌شود راه انداخت و فراموش کرد. دستیار از گفتگوها خودبه‌خود یاد نمی‌گیرد؛ هر اصلاحی از راه به‌روز کردن محتوا و دستورالعمل‌ها انجام می‌شود. یک روال ساده بگذارید:
- هفته‌ای یک بار چند گفتگوی اخیر را در داشبورد بخوانید؛ به‌خصوص گفتگوهای طولانی که ممکن است نشانه سردرگمی مشتری باشند.
- «نرخ رضایت کاربران» در میزکار را زیر نظر داشته باشید. این عدد از لایک و دیسلایک کاربران به جواب‌ها به دست می‌آید و افت آن یعنی چیزی را باید بررسی کنید. میزکار و تاریخچه گفتگوها در همه پلن‌ها هست.
- هر جواب نادرست را تا محتوایی که از آن آمده دنبال کنید و همان‌جا اصلاحش کنید.
- هر بار محتوای مهمی را عوض کردید، چند سؤال مرتبط را دوباره امتحان کنید.
چک‌لیست استفاده مسئولانه
- نام دستیار، خودش را انسان جا نمی‌زند.
- راه رسیدن به انسان مشخص است.
- پایگاه دانش فقط اطلاعات درست، به‌روز و عمومی دارد.
- دستیار در حوزه پزشکی، حقوقی و مالی فقط اطلاعات اداری می‌دهد.
- فرم ثبت‌نام فقط اطلاعات لازم را می‌پرسد.
- گفتگوها هر هفته مرور می‌شوند.
جمع‌بندی
استفاده مسئولانه از هوش مصنوعی در پاسخ‌گویی به مشتری یعنی صادق بودن درباره اینکه مشتری با چه کسی حرف می‌زند، ماندن در محدوده دانسته‌ها، باز گذاشتن راه رسیدن به انسان، دوری از توصیه پزشکی و حقوقی و مالی، جمع کردن داده با رضایت و مرور منظم پاسخ‌ها. هیچ‌کدام از این‌ها پیچیده نیست، اما همین‌ها فرق دستیاری را که اعتماد می‌سازد با دستیاری که اعتماد را خرج می‌کند تعیین می‌کنند.
اگر می‌خواهید دستیاری با همین اصول بسازید، ساخت دستیار را رایگان در آیوا شروع کنید.