מי נושא באחריות כאשר בינה מלאכותית מובילה לקריסה?
הנוף העסקי משתנה ללא הכר ובאופן מתמיד. בעוד שלפני דור, בעל שליטה היה אדם עם חזון וכיס עמוק, ציבור משקיעים או משקיע מוסדי, כיום, החלטות קריטיות מתקבלות בשבריר שנייה בידי ישויות שאינן בשר ודם – מערכות בינה מלאכותית (AI). ככל שהאוטונומיה שלהם מתרחבת, כך גוברת המורכבות בשאלת האחריות המשפטית במקרה של כשל עסקי. השאלה אינה עוד מי משך בחוטים מאחורי הקלעים, אלא האם "החוטים" עצמם, יכולים להיחשב אחראים, והיכן עובר הגבול בינם לבין יוצריהם ומפעיליהם.
האישיות המשפטית: האם מדובר בקונספט ארכאי בעידן של מכונות חושבות?
עולם המשפט המסחרי נשען על קונספטים בסיסיים שנוצרו והתהוו במשך בני מאות שנים. "מסך ההתאגדות" לדוגמה, הוא המגן המשפטי שמפריד בין חובות החברה לבין אחריותם האישית של בעליה. כלי זה נוצר מתוך מטרה לעודד יזמות ונטילת סיכונים מבוקרים. אולם, כאשר חברה מנוהלת באופן שחורג מן ההגינות, למשל במצבים של הונאה או לקיחת סיכונים מופרזים, ניתן "להרים את המסך" ולייחס את חובות החברה לבעלים עצמם.
אך מה קורה כאשר נטילת סיכונים בלתי סבירים או אפילו סוגים של אי דיווח אמת, והגזמות היכולות להתפרש כהונאה אינם תוצאה של כוונת זדון אנושית, אלא של שגיאה לוגית בקוד, הטייה בלתי צפויה במודל למידה, או אפילו פעולה יצירתית של AI שנועדה למקסם רווחים, אך הובילה לקטסטרופה כלכלית? הכלים המשפטיים הנוכחיים מתקשים להתמודד עם תרחישים בהם סוכן לא-אנושי הוא הגורם הישיר לפגיעה.
חוסר תום לב והונאה בעולם של ביטים ובוטים – אתגר האכיפה בעידן ה-AI
מושגים משפטיים בסיסיים בתחום, כגון "חוסר תום לב", "הונאה", "העדפת אינטרסים פרטיים על חשבון טובת החברה", או "התחמקות מתשלום חובות" דורשים ייחוס של כוונה ומודעות, תכונות שאנו מקשרים באופן טבעי לבני אדם. כיצד נוכיח "כוונה רעה" של אלגוריתם? האם די בכך שמערכת הבינה המלאכותית פעלה באופן שהוביל לנזק, כדי להטיל אחריות על מי שתכנת אותה, או על מי שאפשר לה אוטונומיה? אם מודל AI הותאם ומוקסם לפעול בכדי ליצור רווחים בדרכים אגרסיביות במיוחד, והדבר הוביל לקריסה פיננסית, מי נושא בתוצאות? מתכנת הקוד, חברת הטכנולוגיה, מועצת המנהלים שאישרה את השימוש בכלי, או המשקיעים שהרוויחו מפירותיו עד לקריסה?
יתרה מזאת, סוגיות כגון מימון דק, מצב בו חובות החברה עולים על הונה העצמי לדוגמה, מקבלות מימד חדש. האם במקרים בהם מודל שנועד לייעל, למנף ולמקסם הון, מדלל אותו יתר על המידה, מוטלת האחריות לתוצאה על המערכת או על מי שבנה אותה, או שאישר לה פעולה כזו? במילים אחרות נטל ההוכחה, שהוא קריטי במקרי הרמת מסך, הופך למסע חקר מורכב לאין שיעור הכרוך במענה על שאלות טכניות ואתיות כאחת.
לקראת משפט חדש: אחריות בעידן הסייבר-תאגידי
המציאות המשתנה מובילה למצב בו נצטרך להרחיב את מסגרת הרמת המסך כך שתכלול גם מקרים של רשלנות קיצונית בפיתוח, הטמעה או פיקוח על מערכות בינה מלאכותית. פתרונות אפשריים יכולים לכלול יצירת קטגוריות משפטיות חדשות ל"אישיות אלקטרונית", הטלת חובת ביטוח מקיפה לחברות מבוססות AI, או קביעת סטנדרטים מחמירים של פיקוח ורגולציה על מודלים בעלי פוטנציאל הרסני. במילים אחרות על המחוקקים, בתי הדין, והמנהלים להכיר בכך שה"מסך" שבין החברה לבעליה, חייב להתמודד גם עם כוחות בלתי נראים ובלתי אנושיים המניעים את הכלכלה המודרנית.
המהפכה הדיגיטלית אינה רק משנה את הדרך בה אנו עושים עסקים, היא מאתגרת את עצם יסודות האחריות המשפטית. אנו במשרד עו"ד אסף מסדה, המתמחים בליווי חברות וניהול סיכונים משפטיים, מבינים כי בשוק של היום, האחריות המשפטית דורשת מבט רחב ועדכון תמידי, ונמצאים כאן בשבילכם לכל שאלה ובקשה.
