ChatGPT מקשיב לך (וייתכן שידווח עליך)
מקרה OpenAI מגדיר מחדש את הגבול בין בטיחות הציבור לפרטיות דיגיטלית: האתגר של הגנה על החברה מבלי לבגוד באמון המשתמשים. בין הבטחות טכנולוגיות לאזורים אפורים רגולטוריים, אמון בבינה מלאכותית נותר הימור. לחישות דיגיטליות בעולם שתמיד מקשיב.
השינוי הגדול: OpenAI מודה בדיווח לרשויות
בספטמבר 2025, OpenAI חשפה גילוי שזעזע את קהילת הטכנולוגיה העולמית: ChatGPT מנטרת באופן פעיל את השיחות של המשתמשים ומדווחת על תוכן פוטנציאלית פלילי לרשויות אכיפת החוק.
החדשות, שנחשפו כמעט במקרה בפוסט בבלוג של החברה, חשפו שכאשר מערכות אוטומטיות מזהות משתמשים ש"מתכננים לפגוע באחרים", השיחות מנותבות לצינורות ייעודיים שבהם צוות קטן שאומן במדיניות שימוש סוקר אותן. אם בודקים אנושיים קובעים כי קיים "איום מיידי של פגיעה פיזית חמורה באחרים", ניתן לדווח על המקרה לרשויות אכיפת החוק.¹
ChatGPT מזמינה אותך בלבביות לשתף את המחשבות האינטימיות ביותר שלך. אל דאגה, הכול חסוי... פחות או יותר.
מקורות:
- OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
- ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18
הניגוד עם מקצועות "מוגנים"
הזכות של סודיות מקצועית
כשאנחנו מדברים עם פסיכולוג, עורך דין, רופא או כומר, המילים שלנו מוגנות על ידי מנגנון משפטי מבוסס: חיסיון מקצועי. עיקרון זה, המושרש במאות שנות מסורת משפטית, קובע שיחות מסוימות הן בלתי ניתנות לפגיעה, אפילו מול חקירות פליליות.
מאפייני החיסיון המקצועי המסורתי:
- הגנה נרחבת מאוד: התקשורת נשארת חסויה גם בנוכחות פשעים שהתוודו עליהם
- חריגים מוגבלים וספציפיים: רק במקרים קיצוניים המוגדרים בחוק אנשי מקצוע מסוימים יכולים/חייבים לשבור את השתיקה
- בקרה אנושית מוסמכת: ההחלטה להפר את הסודיות נשארת תמיד בידיו של איש מקצוע מוכשר
- אחריות אתית: אנשי המקצוע כפופים לקודים אתיים המאזנים בין חובות כלפי הלקוח לחברה
הגבולות האמיתיים של סודיות מקצועית
בניגוד לתפיסה הרווחת, החיסיון המקצועי אינו מוחלט. קיימים חריגים מוגדרים היטב המשתנים לפי קטגוריה מקצועית:
עבור עורכי דין (סעיף 28 לקוד האתי של עורכי הדין): הגילוי מותר כאשר הוא נחוץ עבור:
- ביצוע פעילות ההגנה
- מניעת ביצוע עבירה חמורה במיוחד
- הגנה עצמית במחלוקת נגד הלקוח שלו
- הליכים משמעתיים
דוגמה קריטית: אם לקוח מצהיר בפני עורך הדין שהוא מתכוון לבצע רצח, בין הגנה על זכות ההגנה לבין הגנה על ערך החיים, השני חייב לגבור, ועורך הדין משוחרר מהחיסיון².
עבור פסיכולוגים (סעיף 13 לקוד האתי): החיסיון עשוי להיות מופר כאשר:
- קיימת חובת דיווח או הלשנה עבור עבירות הנתונות לתביעה יזומה
- קיימות סכנות חמורות לחיים או לבריאות הנפשית-פיזית של הנבדק ו/או של צדדים שלישיים
- קיימת הסכמה תקפה וניתנת להוכחה מצד המטופל
הבחנה חשובה: לפסיכולוג פרטי יש שיקול דעת רחב יותר לעומת פסיכולוג ציבורי, שכעובד ציבור כפוף לחובות דיווח מחמירות יותר³.
מקורות:
- Studio Legale Puce - Segreto Professionale dell'Avvocato
- La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?
בינה מלאכותית כ"לא מקצועית"
ChatGPT פועל בתחום אפור שונה לחלוטין:
היעדר חיסיון משפטי: השיחות עם הבינה המלאכותית אינן נהנות מכל הגנה משפטית. כפי שהודה סם אלטמן, מנכ"ל OpenAI: "אם אתה מדבר עם מטפל או עורך דין או רופא על הבעיות האלה, יש לכך חיסיון משפטי. יש סודיות רפואית-מטופל, יש סודיות משפטית, כל דבר. ואנחנו עדיין לא פתרנו את זה עבור מה שקורה כשאתה מדבר עם ChatGPT"².
תהליך אוטומטי: בניגוד לאיש מקצוע אנושי שמעריך כל מקרה לגופו, ChatGPT משתמשת באלגוריתמים כדי לזהות תוכן "בעייתי", ובכך מסירה את השיקול הדעת האנושי המוסמך משלב הסינון הראשוני.
מקורות:
השלכות מעשיות: פרדיגמת מעקב חדשה
הפרדוקס של אמון טכנולוגי
המצב יוצר פרדוקס מטריד. מיליוני אנשים משתמשים ב-ChatGPT כווידוי דיגיטלי, ומשתפים בו מחשבות אינטימיות, ספקות, פחדים ואפילו פנטזיות פליליות שלעולם לא היו משתפים עם בן אדם. כפי שמדווח סם אלטמן: "אנשים מדברים על הדברים האישיים ביותר בחייהם עם ChatGPT. אנשים משתמשים בו - במיוחד הצעירים - כמטפל, כמאמן אישי"⁴.
הסיכון בצנזורה עצמית פלילית: המודעות לכך שהשיחות עשויות להיות מנוטרות עלולה, באופן פרדוקסלי:
- לדחוף עבריינים לערוצים נסתרים יותר
- למנוע מאנשים עם מחשבות אלימות לפנות לעזרה
- ליצור אפקט "קירור" בתקשורת הדיגיטלית
מומחיות לעומת אלגוריתמים: מי מחליט מה פלילי?
היבט מכריע שהדגישו מבקרים נוגע לכשירותם של אלו המקבלים את ההחלטות הסופיות.
אנשי מקצוע אנושיים:
- עברו שנים של הכשרה כדי להבחין בין פנטזיות לכוונות אמיתיות
- פועלים לפי קודים אתיים שמגדירים מתי לשבור את הסודיות
- נושאים באחריות משפטית אישית על החלטותיהם
- יודעים להעריך את ההקשר ואת מהימנות הדברים
מערכת ChatGPT פועלת עם:
- אלגוריתמים אוטומטיים לזיהוי ראשוני
- צוות של OpenAI שלא בהכרח עבר הכשרה קלינית או קרימינולוגית
- קריטריוני הערכה שאינם פומביים ועלולים להיות שרירותיים
- היעדר מנגנוני בקרה חיצוניים
דוגמה בעייתית: כיצד אלגוריתם מבחין בין:
- אדם שכותב מותחן ומחפש השראה לסצנות אלימות
- מישהו שמדמיין בלי כל כוונה לפעול
- אדם שמתכנן באמת פשע
מקורות:
- TechCrunch - סם אלטמן מזהיר: אין סודיות משפטית בשימוש ב-ChatGPT כמטפל
- Shinkai Blog - שיחות ה-ChatGPT של OpenAI נסרקות, מדווחות למשטרה, ומעוררות זעם וחששות פרטיות אצל המשתמשים
מקורות:
הסתירה של OpenAI: פרטיות לעומת אבטחה
הסטנדרט הכפול
הודאתה של OpenAI יוצרת סתירה בוטה לעמדותיה הקודמות. החברה התנגדה בתוקף לבקשות לנתוני משתמשים בתביעות משפטיות, תוך ציטוט חששות בנוגע לפרטיות. בתיק נגד הניו יורק טיימס, OpenAI טענה בתוקף נגד חשיפת יומני צ'אט כדי להגן על פרטיות המשתמשים.⁴
האירוניה שבמצב: OpenAI מגנה על פרטיות המשתמשים בבתי המשפט בעודה מודה בו-זמנית שהיא מנטרת ומשתפת נתונים עם רשויות חיצוניות.
השפעת פרשת הניו יורק טיימס
המצב הסתבך עוד יותר עם צו בית המשפט המחייב את OpenAI לשמור את כל יומני ה-ChatGPT ללא הגבלת זמן, כולל שיחות פרטיות ונתוני API. משמעות הדבר היא ששיחות שהמשתמשים האמינו שהן זמניות מאוחסנות כעת לצמיתות⁵.
מקורות:
- OpenAI תוקפת צו בית משפט לשמור את כל יומני ה-ChatGPT, כולל שיחות שנמחקו
- תביעת OpenAI 2025: ערעור נגד NYT בנוגע לנתוני ChatGPT
פתרונות אפשריים וחלופות
לקראת "פריבילגיה של בינה מלאכותית"?
כפי שהציע סם אלטמן, ייתכן שיהיה צורך לפתח מושג של "פריבילגיית AI" - הגנה משפטית דומה לזו המוענקת לאנשי מקצוע מסורתיים. עם זאת, הדבר מעלה שאלות מורכבות:
אפשרויות רגולטוריות אפשריות:
- מודל רישוי: רק בינה מלאכותית מוסמכת יכולה להציע "פריווילגיה שיחתית"
- הכשרה חובה: מי שמטפל בתוכן רגיש חייב להחזיק הסמכות ספציפיות
- פיקוח מקצועי: מעורבות של פסיכולוגים/עורכי דין מוסמכים בהחלטות הדיווח
- שקיפות אלגוריתמית: פרסום הקריטריונים המשמשים לזיהוי תוכן "מסוכן"
פתרונות טכניים בינוניים
בינה מלאכותית "מוגדרת":
- מערכות נפרדות לשימושים טיפוליים לעומת כלליים
- הצפנה מקצה לקצה לשיחות רגישות
- הסכמה מפורשת לכל סוג של ניטור
גישה "תלת-חלקית":
- זיהוי אוטומטי רק לאיומים מיידיים וניתנים לאימות
- בדיקה אנושית מוסמכת חובה
- תהליך ערר להחלטות שנויות במחלוקת
התקדים של אנשי מקצוע דיגיטליים
לקחים מתחומים אחרים:
- טלה-רפואה: פיתחה פרוטוקולים לפרטיות דיגיטלית
- ייעוץ משפטי מקוון: משתמש בהצפנה ואימות זהות
- טיפול דיגיטלי: אפליקציות מיוחדות עם הגנות ספציפיות
מקורות:
מה המשמעות של בינה מלאכותית עבור עסקים
לקחים למגזר
מקרה OpenAI קובע תקדימים חשובים לכל תעשיית הבינה המלאכותית:
- שקיפות חובה: חברות בינה מלאכותית יצטרכו להיות מפורשות יותר לגבי נהלי הניטור שלהן
- הצורך במסגרות אתיות: נדרשת רגולציה ברורה בנוגע למתי וכיצד בינה מלאכותית יכולה להתערב בתקשורת פרטית
- הכשרה מיוחדת: מי שמקבל החלטות על תוכן רגיש חייב להחזיק במיומנויות המתאימות
- אחריות משפטית: להגדיר מי אחראי כאשר מערכת בינה מלאכותית טועה בהערכה
המלצות תפעוליות
עבור חברות המפתחות בינה מלאכותית שיחתית:
- להטמיע צוותים רב-תחומיים (עורכי דין, פסיכולוגים, קרימינולוגים)
- לפתח קריטריונים ציבוריים וניתנים לאימות לדיווח
- ליצור תהליכי ערר עבור המשתמשים
- להשקיע בהכשרה מיוחדת לצוות הבדיקה
עבור חברות המשתמשות בבינה מלאכותית:
- להעריך את סיכוני הפרטיות לפני היישום
- ליידע בבירור את המשתמשים לגבי מגבלות הסודיות
- לשקול חלופות מיוחדות לשימושים רגישים
עתיד הפרטיות הדיגיטלית
הדילמה המרכזית: כיצד לאזן בין מניעת פשעים אמיתיים לבין הזכות לפרטיות וסודיות דיגיטלית?
הנושא אינו רק טכני אלא נוגע לעקרונות יסוד:
- חזקת החפות: ניטור שיחות פרטיות מרמז על חשד כללי
- הזכות לפרטיות: כוללת את הזכות למחשבות פרטיות, גם אם מטרידות
- יעילות מונעת: לא הוכח שמעקב דיגיטלי אכן מונע פשעים
מסקנות: מציאת האיזון הנכון
החשיפה של OpenAI מסמנת רגע מכריע באבולוציה של הבינה המלאכותית, אך השאלה אינה אם הדיווח נכון או שגוי באופן מוחלט: אלא כיצד להפוך אותו ליעיל, הוגן ומכבד זכויות.
הצורך אמיתי: איומי אלימות ממשיים, תכנוני פיגועים או פשעים חמורים אחרים דורשים התערבות. הבעיה אינה האם לדווח, אלא כיצד לעשות זאת באופן אחראי.
ההבדלים המהותיים שיש לפתור:
הכשרה ומיומנות:
- לאנשי מקצוע אנושיים יש פרוטוקולים מבוססים להבחין בין איומים אמיתיים לפנטזיות
- מערכות בינה מלאכותית זקוקות לתקנים שווי ערך ולפיקוח מוסמך
- נדרשת הכשרה מיוחדת עבור מי שמקבל את ההחלטות הסופיות
שקיפות ובקרה:
- אנשי מקצוע פועלים תחת פיקוח של איגודים מקצועיים
- OpenAI זקוקה לקריטריונים ציבוריים ולמנגנוני בקרה חיצוניים
- המשתמשים חייבים לדעת בדיוק מתי ומדוע הם עלולים להיות מדווחים
מידתיות:
- אנשי מקצוע מאזנים בכל מקרה לגופו בין חובת הסודיות לבין הביטחון
- מערכות בינה מלאכותית חייבות לפתח מנגנונים דומים, לא אלגוריתמים בינאריים
עבור חברות בתחום, האתגר הוא לפתח מערכות שמגנות ביעילות על החברה מבלי להפוך לכלי מעקב גורף. אמון המשתמשים חיוני, אך הוא חייב להתקיים לצד אחריות חברתית.
עבור המשתמשים, הלקח הוא כפול:
- לשיחות עם בינה מלאכותית אין את אותה הגנה שיש לאנשי מקצוע מסורתיים
- זה לא בהכרח דבר שלילי אם נעשה בשקיפות ובמידתיות, אך חשוב להיות מודעים לכך
עתיד הבינה המלאכותית השיחתית מחייב מסגרת חדשה ש:
- תכיר בלגיטימיות של מניעת פשיעה
- תקבע סטנדרטים מקצועיים למי שמטפל בתכנים רגישים
- תבטיח שקיפות בתהליכי קבלת ההחלטות
- תגן על זכויות הפרט מבלי להתעלם מהביטחון
השאלה הנכונה אינה אם המכונות צריכות לדווח על פשעים, אלא כיצד נוכל לוודא שהן עושות זאת (לפחות) באותה חוכמה, הכשרה ואחריות כמו אנשי מקצוע אנושיים.
המטרה אינה לחזור לבינה מלאכותית ש"עיוורת" לסכנות אמיתיות, אלא לבנות מערכות המשלבות יעילות טכנולוגית עם אתיקה ומומחיות אנושית. רק אז נוכל לקבל את הטוב משני העולמות: בטיחות וזכויות פרט מוגנות.
מקורות והפניות
- Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
- Studio Legale Puce - "Segreto Professionale dell'Avvocato"
- La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
- TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
- Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
- Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
- Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"
תגובות
אין עדיין תגובות — התחל/י את השיחה.