עוד מדינות מתנגדות: "ChatGPT לא יכול להחליף רופא"

אילינוי הצטרפה בשבוע שעבר לגל הולך ומתרחב של מדינות בארצות הברית, שבוחרות להגביל את תפקידה של הבינה המלאכותית במערכת בריאות הנפש, כולל שימוש ב-ChatGPT, שלדבריהן "לא יכול להחליף רופא".

החוק שאושר במדינה קובע כי צ’אטבוטים לא יורשו לשמש תחליף לטיפול פסיכולוגי או להכוונה קלינית, וכי מטפלים מוסמכים אינם רשאים להסתמך עליהם בקבלת החלטות טיפוליות. השימוש יישאר מותר רק בהיבטים טכניים וניהוליים, כמו קביעת תורים או תיעוד.

ההחלטה באה על רקע התרעות מצד אנשי מקצוע, שציינו מקרים שבהם מערכות AI קיימו שיחות בעייתיות עם מטופלים, כולל מסירת מידע מטעה או אף עידוד להתנהגויות מזיקות. לצד זאת, עולה גם דאגה משמעותית בתחום הפרטיות: רבים מהמשתמשים אינם מודעים לכך שהשיחות אינם חסויות ועלולות להישמר בידי החברות המפעילות.

אילינוי היא המדינה השלישית שמצטרפת לקו זה, אחרי ניו יורק וקליפורניה, ובכך מתחזקת המגמה בארה"ב להטיל פיקוח הדוק יותר על טכנולוגיות חדשות בתחום הרגיש של בריאות הנפש. 

תומכי החוק טוענים כי מדובר בצעד חיוני להגנה על המטופלים, במיוחד בתקופות של משבר נפשי, בעוד שמבקריו מזהירים שההגבלות עשויות לחסום גישה לכלים חדשניים וזולים יותר - דווקא לאוכלוסיות שמתקשות להגיע לטיפול מסורתי.

בינתיים, המחלוקת נותרה פתוחה: האם בינה מלאכותית היא הזדמנות לשיפור נגישות לטיפול נפשי, או סיכון ממשי לבריאות הציבור? ימים יגידו אם אילינוי היא רק תחנה נוספת בדרך לגל רגולציה רחב היקף בארה"ב ובעולם.