האלגוריתם טעה, מי ישלם? אחריות משפטית בשימוש ב־AI בחברה עסקית

מי נושא באחריות כאשר חברה משתמשת בכלי AI לקבלת החלטות עסקיות, שיווקיות או ניהוליות?

כלי בינה מלאכותית כבר אינם רק כלי עזר טכנולוגי. חברות משתמשות היום ב־AI כדי לנתח לקוחות, לדרג לידים, לנסח הצעות מסחריות, להפעיל צ׳אטבוטים, לסנן מועמדים, לייצר קמפיינים, לנתח חוזים, לתעדף פניות שירות ולקבל החלטות עסקיות או ניהוליות.

אבל לצד היעילות, המהירות והחיסכון בעלויות, עולה שאלה משפטית חשובה: מי אחראי כאשר מערכת AI טועה?

אם כלי AI מפיק מידע שגוי, מטעה לקוח, מפלה מועמד, ממליץ על החלטה עסקית שגויה, משתמש במידע אישי ללא בסיס מתאים או יוצר התחייבות מסחרית לא נכונה — החברה אינה יכולה להסתתר מאחורי הטענה ש”האלגוריתם החליט”.

מערכת AI אינה ישות משפטית. אין לה זכויות, אין לה חובות, והיא אינה יכולה לשאת באחריות משפטית. האחריות נשארת אצל החברה שבחרה להשתמש בכלי, הטמיעה אותו, הזינה אליו מידע, הסתמכה על תוצריו והציגה אותם כלפי לקוחות, עובדים, ספקים או גורמים עסקיים אחרים.

במקרים מסוימים, עשויה להתעורר גם חשיפה אישית של נושאי משרה ודירקטורים, במיוחד כאשר ניתן להראות שהחברה השתמשה בכלי AI ללא בדיקה, ללא מדיניות, ללא בקרה אנושית, ללא תיעוד וללא ניהול סיכונים סביר, והכול בהתאם לנסיבות המקרה ולהיקף מעורבותם.

שימוש ב־AI הוא לא רק החלטה טכנולוגית

כאשר חברה מכניסה כלי AI לתהליכי העבודה שלה, היא לא רק מאמצת תוכנה חדשה. היא משנה את האופן שבו מתקבלות החלטות בארגון.

המערכת עשויה להשפיע על שאלות כמו:

• מי יקבל הצעת מחיר מסוימת.
• איזה לקוח יסווג כלקוח “בסיכון”.
• איזה מועמד יעבור לשלב הבא.
• איזו פנייה תקבל קדימות בשירות.
• איזה מוצר יוצע ללקוח.
• איזה נוסח שיווקי יתפרסם.
• איזה מידע יוצג בפני הנהלה או משקיעים.

לכן, השאלה המשפטית אינה רק האם הכלי “עובד”. השאלה היא האם החברה יודעת כיצד הוא עובד, איזה מידע מוזן אליו, מי בודק את התוצרים שלו, מי מאשר שימושים רגישים, ומה קורה כאשר הוא מייצר תוצאה שגויה.

AI יכול להמליץ, לנתח ולנסח — אבל החברה היא זו שמחליטה להשתמש בתוצר. לכן האחריות המשפטית נשארת אנושית ותאגידית.

האם החברה או ספק ה־AI אחראים לטעות?

כלפי לקוחות, עובדים או צדדים שלישיים, במקרים רבים הטענות יופנו תחילה כלפי החברה שהפעילה את הכלי, אם כי היקף האחריות בפועל תלוי בנסיבות המקרה ובמערכת היחסים החוזית והעובדתית. אם צ׳אטבוט של החברה הטעה לקוח, אם מערכת גיוס פסלה מועמד באופן מפלה, או אם כלי AI הפיק הצעת מחיר שגויה שנשלחה בשם החברה — הצד שנפגע יפנה בדרך כלל אל החברה, לא אל האלגוריתם.

ייתכן שלחברה תהיה עילת תביעה נגד ספק ה־AI, אך זה תלוי בהסכם ביניהם: תנאי השירות, מגבלות האחריות, התחייבויות אבטחת מידע, שימוש במידע, שיפוי, זמינות השירות והצהרות הספק לגבי רמת הדיוק של המערכת.

לכן, לפני הטמעת כלי AI, חשוב לבדוק:

• האם הספק שומר את המידע שמוזן למערכת.
• האם הוא משתמש במידע לאימון מודלים.
• האם המידע מועבר לחו״ל.
• האם קיימת התחייבות לאבטחת מידע.
• האם יש מגבלת אחריות רחבה מדי.
• האם יש שיפוי במקרה של תביעה.
• האם הכלי מתאים לשימוש מסחרי.
• האם תנאי השימוש אוסרים שימושים מסוימים.

חברה שמטמיעה כלי AI בלי לבדוק את תנאי השימוש עלולה לגלות שהספק הגביל מאוד את אחריותו — בעוד שהיא עצמה נותרה חשופה מול הלקוחות, העובדים או הרגולטורים.

מתי האחריות יכולה להפוך לאישית?

אחריות אישית של דירקטורים ונושאי משרה אינה נוצרת בכל טעות של AI. לא כל פלט שגוי ולא כל החלטה עסקית שהתבררה כלא מוצלחת יובילו לאחריות אישית.

הסיכון האישי עולה כאשר השימוש ב־AI נעשה ללא ניהול סיכונים בסיסי. למשל:

• הנהלה מאשרת שימוש במערכת AI משמעותית ללא בדיקת נאותות.
• עובדים מזינים מידע אישי או סודי לכלים חיצוניים ללא מדיניות.
• מערכת AI משפיעה על החלטות לגבי עובדים או לקוחות ללא בקרה אנושית.
• הדירקטוריון אינו יודע באילו תהליכים קריטיים החברה משתמשת ב־AI.
• אין תיעוד של החלטות, פלטים או תהליכי אישור.
• החברה מתעלמת מהתרעות על הטיות, טעויות או דליפות מידע.
• אין בדיקה משפטית של שימושים רגישים.

בהקשר זה חשוב להזכיר את חובת הזהירות של נושאי משרה. לא מצופה מדירקטור להיות מדען נתונים או מהנדס AI, אבל כן מצופה ממנו לשאול שאלות, לדרוש הסברים, לוודא שיש גורם אחראי, לבחון סיכונים מהותיים ולהסתייע ביועצים כאשר נדרש.

גם שיקול דעת עסקי שננקט בתום לב ועל בסיס מידע מספק אינו מבטיח הגנה בכל מקרה. היא נועדה להגן על החלטות עסקיות שהתקבלו בתום לב, ללא ניגוד עניינים ועל בסיס מידע מספק. אם חברה מאשרת שימוש בכלי AI באופן עיוור, בלי להבין את הסיכון ובלי לתעד תהליך קבלת החלטות, יהיה קשה יותר לטעון שמדובר בהחלטה עסקית סבירה.

הסיכון הראשון: שימוש במידע אישי

אחד הסיכונים המרכזיים בשימוש ב־AI הוא שימוש במידע אישי. חברות מזינות לכלי AI מידע על לקוחות, עובדים, מועמדים, משתמשים, ספקים, מטופלים או אנשי קשר. לעיתים מדובר במידע בסיסי, ולעיתים במידע רגיש: נתונים פיננסיים, מידע רפואי, מיקום, התנהגות צרכנית, ביצועים בעבודה או העדפות אישיות.

הרשות להגנת הפרטיות פרסמה בשנת 2025 הנחיה בנושא תחולת חוק הגנת הפרטיות על מערכות בינה מלאכותית, עם דגש על אחריותיות, שקיפות, אבטחת מידע, צמידות מטרה וזכויות נושאי מידע.

לכן, חברה צריכה לבדוק לפני שימוש ב־AI:

• איזה מידע מוזן למערכת.
• האם מדובר במידע אישי או רגיש.
• האם מטרת השימוש תואמת את המטרה שלשמה נאסף המידע.
• האם מדיניות הפרטיות משקפת את השימוש.
• האם המידע עובר לספק חיצוני.
• האם הספק שומר את המידע או משתמש בו לאימון.
• האם ניתן למחוק או לתקן מידע שגוי.
• האם קיימים אמצעי אבטחה מתאימים.

העובדה שהשימוש נעשה “רק כדי לייעל עבודה” אינה פוטרת את החברה מחובותיה. כאשר מידע אישי נכנס לתמונה, AI הופך לסוגיה משפטית ורגולטורית — לא רק תפעולית.

הסיכון השני: הטיה ואפליה אלגוריתמית

מערכת AI לומדת מנתונים. אם הנתונים משקפים הטיות קיימות, המערכת עלולה לשכפל אותן ואף להעצים אותן.

לדוגמה, מערכת גיוס שמבוססת על נתוני עבר עלולה להעדיף מועמדים שדומים לעובדים שנקלטו בעבר, גם אם הדבר יוצר הפליה עקיפה. מערכת פיננסית עלולה לסווג לקוחות מסוימים כסיכון גבוה בגלל מאפיינים סטטיסטיים שאינם משקפים את מצבם האישי. מערכת שיווקית עלולה להציע מחירים, הטבות או שירותים באופן שמפלה קבוצות מסוימות.

הבעיה המשפטית מתחדדת כאשר החברה אינה מסוגלת להסביר מדוע התקבלה החלטה מסוימת. תשובה כמו “המערכת המליצה” אינה מספיקה כאשר אדם נפגע מההחלטה.

לכן, בהחלטות שמשפיעות על אנשים — עובדים, מועמדים, לקוחות או משתמשים — נדרשת בקרה חזקה יותר: בדיקת הטיות, בקרה אנושית, אפשרות לערעור או תיקון, ותיעוד של תהליך קבלת ההחלטה.

הסיכון השלישי: הטעיה, “הזיות” ומידע שגוי

מודלי AI, ובעיקר מודלי שפה, עלולים להפיק מידע שנראה אמין אך אינו נכון. התופעה הזו מוכרת כ”הזיות” של AI: המערכת ממציאה נתונים, מקורות, תנאים מסחריים, ניתוחים או עובדות.

במישור העסקי, הסיכון ברור:

• צ׳אטבוט שמבטיח ללקוח תנאים לא קיימים.
• כלי שיווקי שמייצר טענה לא מבוססת על מוצר.
• מערכת שמנסחת הצעת מחיר שגויה.
• דוח שוק שנוצר ב־AI ומבוסס על נתונים לא נכונים.
• טיוטת חוזה שכוללת סעיף שלא נבדק משפטית.
• מצגת למשקיעים הכוללת נתונים לא מאומתים.

אם החברה פרסמה את התוכן, שלחה אותו או הסתמכה עליו בהחלטה עסקית, לרוב לא יהיה די בטענה שה־AI טעה, ויהיה צורך להראות אילו מנגנוני בדיקה ופיקוח הופעלו בפועל. מבחינת הלקוח או הספק, התוכן הגיע מהחברה.

לכן, מומלץ לקבוע כלל פשוט: תוצר AI שמיועד לשימוש חיצוני, מסחרי, משפטי או ניהולי יעבור, ככלל, בדיקה אנושית מתאימה לפני שימוש או הפצה.

הסיכון הרביעי: החלטות אוטומטיות ללא הסבר

הסיכון המשפטי גדל כאשר AI אינו רק מסייע לעובד, אלא מקבל או מעצב החלטה מהותית.

לדוגמה:

• סינון מועמדים לעבודה.
• דירוג לקוחות.
• קביעת זכאות להטבה.
• תמחור דינמי.
• המלצה על פיטורים או קידום.
• דחיית בקשה לשירות.
• סיווג לקוח כמסוכן או לא כדאי.

כאשר החלטה כזו מתקבלת ללא יכולת הסבר, החברה עלולה להיתקל בקושי משפטי ותדמיתי. אדם שנפגע מהחלטה עשוי לדרוש לדעת מדוע התקבלה. אם החברה אינה יודעת להסביר את ההיגיון, לבדוק את הנתונים או להראות בקרה אנושית, היא תתקשה להגן על עצמה.

ככל שההשפעה על אדם גדולה יותר, כך נדרשת רמת פיקוח גבוהה יותר.

AI Governance: איך מנהלים סיכון בצורה נכונה?

הפתרון אינו להימנע משימוש ב־AI, אלא לנהל אותו. חברה שרוצה להשתמש ב־AI בצורה אחראית צריכה להקים מסגרת ממשל תאגידי ל־AI — AI Governance.

המסגרת אינה חייבת להיות מסובכת, אבל היא צריכה להיות ברורה, מתועדת וישימה.

1. מיפוי שימושי AI בארגון

החברה צריכה לדעת אילו מחלקות משתמשות ב־AI, באילו כלים, לאילו מטרות, ומה סוג המידע שמוזן למערכות.

2. סיווג שימושים לפי רמת סיכון

לא כל שימוש ב־AI מסוכן באותה מידה. ניסוח טיוטה פנימית שונה לחלוטין מסינון מועמדים, ניתוח מידע רפואי או קבלת החלטות על לקוחות.

3. מדיניות שימוש ארגונית

יש לקבוע אילו כלים מותרים, אילו שימושים אסורים, איזה מידע אסור להזין, מי מאשר שימושים חריגים ומה חובת הבדיקה לפני שימוש חיצוני.

4. בדיקת ספקים

לפני שימוש בכלי AI חיצוני, יש לבדוק תנאי שימוש, פרטיות, אבטחת מידע, שמירת מידע, שימוש לאימון, שיפוי, אחריות והעברה לחו״ל.

5. תסקיר סיכונים לשימושים רגישים

כאשר מערכת AI משתמשת במידע אישי או משפיעה על זכויות של אנשים, מומלץ לבצע תסקיר סיכונים: מה המידע, מה המטרה, מה הסיכון, מה אמצעי הבקרה ומה נדרש לתיעוד.

6. בקרה אנושית

בהחלטות משמעותיות, AI צריך להיות כלי עזר — לא מקבל החלטה יחיד. יש להגדיר מתי נדרשת בדיקה, אישור או התערבות של גורם אנושי.

7. תיעוד ו־Audit Logs

בשימושים רגישים, חשוב לתעד איזה כלי הופעל, איזה מידע הוזן, איזה פלט התקבל, מי אישר את השימוש ומה הייתה ההחלטה הסופית.

טבלת סיכונים ובקרות מומלצות

מה צריך לכלול נוהל שימוש ב־AI לעובדים?

נוהל שימוש ב־AI צריך להיות קצר וברור. הוא לא צריך להפחיד עובדים, אלא לתת להם גבולות.

נוהל כזה צריך לכלול:

• רשימת כלי AI מאושרים.
• איסור הזנת מידע אישי או סודי ללא אישור.
• הוראה לבדוק כל פלט לפני שימוש חיצוני.
• איסור להסתמך על AI כמקור אמת יחיד.
• חובת סימון או תיעוד בשימושים רגישים.
• כללים לשימוש בצ׳אטבוטים מול לקוחות.
• אישור משפטי לשימושים שיווקיים או חוזיים רגישים.
• כללים לשימוש ב־AI בתהליכי גיוס, עובדים ולקוחות.

הנוהל צריך להיות מובן לעובדים שאינם משפטנים ואינם אנשי טכנולוגיה. אם הוא ארוך מדי או עמום מדי, הוא לא ייושם בפועל.

שאלות נפוצות

סיכום: ה־AI לא אחראי במקומכם

בינה מלאכותית יכולה לשפר תהליכים עסקיים, לחסוך זמן, לייעל שירות, לשפר שיווק ולעזור בקבלת החלטות. אבל היא אינה מעבירה את האחריות המשפטית מהחברה אל המכונה.

כאשר חברה משתמשת בכלי AI לקבלת החלטות עסקיות, שיווקיות או ניהוליות, עליה לוודא שהשימוש נעשה באופן אחראי: עם מדיניות ברורה, בקרה אנושית, תיעוד, ניהול ספקים, שמירה על פרטיות ובחינה של סיכוני הטעיה, הפליה ושימוש במידע אישי.

הסיכון המשפטי המרכזי אינו עצם השימוש ב־AI, אלא שימוש לא מנוהל: עובדים שמזינים מידע רגיש לכלים חיצוניים, החלטות אוטומטיות ללא פיקוח, תוצרים שמתפרסמים ללא בדיקה וספקים שהחברה לא בחנה את תנאי השימוש שלהם.

בעידן שבו AI נכנס כמעט לכל מחלקה בארגון, השאלה אינה האם להשתמש בו — אלא מי מפקח, מי מתעד, מי בודק, ומי נושא באחריות כאשר המערכת טועה.

ברמה העקרונית, החברה, ולעיתים גם נושאי המשרה, צריכים להיות מסוגלים להראות שהם לא נתנו לטכנולוגיה לקבל החלטות ללא שליטה, אלא ניהלו אותה כחלק ממערך הסיכונים העסקי של החברה.

אודות המחבר: עו״ד משה כאהן

עו״ד משה כאהן עומד בראש משרד עורכי דין בתל אביב המתמחה במשפט עסקי ומסחרי, דיני חברות, ליטיגציה מסחרית, עסקים משפחתיים, ירושה ועיזבון, חברות הייטק, דיני עבודה וייצוג בהליכים משפטיים ובבוררויות. עו"ד כאהן משמש כבורר בסכסוכים עסקיים ומסחריים.

עו״ד כאהן הוא מחבר הספר “סכסוכי שותפים בעולם העסקי”, חבר בוועדת התאגידים של לשכת עורכי הדין, ייסד ועמד בראש המרכז לגישור בין עורכי דין מטעם המוסד הארצי לגישור שליד לשכת עורכי הדין, ומשמש כרכז אקדמי ומרצה בקורסים בתחומי עסקים, משפט, משפחה ודיני עבודה למנהלים במרכז למשפט מסחרי באוניברסיטת בר־אילן.