هشدار: خطرات استفاده از چتباتهای بدون قوانین
چتباتهای بدون مقررات یا همان چتباتهای خودکار بدون نظارت، نوعی ابزار هوش مصنوعی هستند که برای برقراری ارتباط با کاربران استفاده میشوند. این چتباتها قادرند به صورت خودکار پاسخهایی به سوالات کاربران دهند و خدمات مختلفی را ارائه کنند. اما این نوع ابزارها ممکن است به دلیل عدم وجود مقررات و نظارت مناسب، مشکلاتی ایجاد کنند. از جمله مشکلات میتوان به انتقال اطلاعات حساس و شخصی کاربران به طرف سوم، ایجاد ارتباطات غیراخلاقی و منفور، پراکندگی اطلاعات غلط و نادرست اشاره کرد.
بنابراین، کاربران باید هشدار داده شوند که در ارتباط با چتباتهای بدون مقررات و حفظ اطلاعات خصوصی و امنیت شخصی خود، بسیار محتاط باشند. همچنین، استفاده از این نوع چتباتها در موارد حساس و مهم، توصیه نمیشود و بهتر است از راههای ارتباطی مطمئنتر و قابل اعتماد استفاده کنید.
به گزارش اقتصادآنلاین به نقل از ایرنا، محققان در کشور انگلیس میگویند که پرستاران و مراقبان بهداشتی این کشور نباید مجاز به استفاده از «چت بات»های بدون مقررات هوش مصنوعی باشند و تاکید میکنند که انقلاب هوش مصنوعی نیازمند یک پیوست اخلاقی مستحکم است.
یک مطالعه آزمایشی (پیلوت) توسط محققان در دانشگاه آکسفورد نشان داده است که برخی پرستاران این کشور برای تهیه طرح و برنامه مراقبتی از بیماران و سالمندان از چتباتهای هوش مصنوعی مولد مانند «چت جی پی تی» و «بارد» استفاده کرده اند.
دکتر «کارولین گرین» از محققان حوزه اخلاق هوش مصنوعی در دانشگاه آکسفورد میگوید که این مساله یک خطر بالقوه برای حریم خصوصی بیماران است. وی گفت: اگر شما هر نوع از دادههای خصوصی و شخصی را در داخل یک چتبات هوش مصنوعی مولد قرار دهید، آن دادهها برای آموزش دادن به مدل زبانی به کار میرود. آن دادههای شخصی ممکن است تولید شده و برای شخص دیگری افشا شود.
وی خاطرنشان کرد که پرستاران و مراقبان ممکن است با اطلاعات اشتباه یا سوگیرانه کار کنند و بطور ناخواسته موجب وارد شدن لطماتی شوند. همچنین یک طرح مراقبتی مبتنی بر هوش مصنوعی ممکن است استاندارد نباشد.
این کارشناس در عین حال گفت: هوش مصنوعی ممکن است مزایای بالقوهای هم داشته باشد اما در حال حاضر استفاده از آن را توصیه نمیکنم؛ هر چند سازمانهایی در حال کار برای ساختن وبسایتها و اپهایی هستند که دقیقا همین کار را انجام میدهند.
- برچسب ها: