אזהרת הבינה המלאכותית של האפיפיור ליאו מטלטלת את העולם

TL;DR

• האפיפיור ליאו ה־XIV מזהיר שבינה מלאכותית מלבה סכסוכים.
• קורא להאט את ההתקדמות בתחום הבינה המלאכותית.
• אין לאפשר שרק מעטים ישלטו בבינה המלאכותית.
• נדרש מסגרת אתית לשימוש בבינה מלאכותית.
• שימוש בבינה מלאכותית בלחימה חייב לכבד את כבוד האדם.

האפיפיור ליאו ה־XIV מעורר הדים עם האנציקליקה האחרונה שלו, שכותרתה Magnifica Humanitas, ובה הוא לא חוסך בביקורת על הסכנות של בינה מלאכותית. זו לא סתם איגרת אפיפיורית טיפוסית; זו קריאה נוקבת לאנושות להתעורר ולהתנהג בהתאם כשמדובר בטכנולוגיה. בעולם שבו הבינה המלאכותית מתפתחת במהירות, האפיפיור קורא להאטה רצינית בקצב ההתקדמות, ומזהיר שהטכנולוגיה הזו איננה רק כלי אלא נשק פוטנציאלי שעלול ללבות סכסוך וכאוס.

באנציקליקה הראשונה שלו, שפורסמה ב־15 במאי, במקביל ליום השנה של מסמך היסטורי מאת קודמו הנושא את אותו שם, האפיפיור ליאו ה־XIV מבהיר: אין לרכז את הבינה המלאכותית בידיהם של מעטים בעלי זכויות יתר. לדבריו, רגולציה בלבד אינה מספיקה; צריך לפרק את הנשק הזה בפועל, ולהבטיח שהוא ישרת את האנושות ולא להפך. “פירוק הנשק של הבינה המלאכותית אינו אומר דחייה של הטכנולוגיה,” הוא אומר, “אלא מניעת שליטתה באנושות.”

במהלך מצגת בוותיקן, כריסטופר אולה, מייסד-שותף של חברת הבינה המלאכותית Anthropic, הדהד את דברי האפיפיור והדגיש את הצורך בקולות חיצוניים שיחייבו את מעבדות הבינה המלאכותית לתת דין וחשבון. “אנחנו צריכים יותר מהעולם — קהילות דתיות, חברה אזרחית, חוקרים, ממשלות — שיעשו את מה שקדושתו עשה כאן,” הוא קרא. זו קריאת התעוררות לכולם לשים לב וללחוץ לכיוון טוב יותר בפיתוח הבינה המלאכותית.

מה שמיוחד במיוחד באנציקליקה הזו הוא ההכרה של האפיפיור בהשלכות האתיות של בינה מלאכותית בלחימה. הוא הצר על הקלות שבה ניתן לפרוס נשק אוטונומי, והזהיר שטכנולוגיה כזו הופכת את המלחמה לאפשרית יותר ופחות נתונה לשליטה אנושית. “השימוש בבינה מלאכותית בלחימה חייב להיות כפוף למגבלות האתיות המחמירות ביותר,” הוא הכריז, תוך הדגשת הכבוד לכבוד האדם ולקדושת החיים.

כפי שהאפיפיור מנסח זאת, “המשימה שלנו היום איננה רק אתית או טכנית. היא אקולוגית במובן העמוק ביותר, שכן היא נוגעת לממד חדש של ביתנו המשותף.” הוא לא מדבר רק על הסביבה במובן הפיזי; הוא מתייחס גם לנוף הדיגיטלי שבו כולנו שקועים. הבינה המלאכותית כבר חלק מחיינו, ועלינו לעסוק בה באחריות.

בעידן שבו העולם נדמה כמתדרדר לתרבות של אלימות ומאבקי כוח, המסר של האפיפיור ליאו ה־XIV ברור: שלום לא צריך להיתפס כהפוגה גרידא בין עימותים, אלא כאחריות המשותפת לכולנו. הקריאה של האפיפיור למצפן מוסרי בפיתוח בינה מלאכותית היא תזכורת לכך שהטכנולוגיה צריכה להעצים את האנושיות שלנו, לא לצמצם אותה. בעודנו מנווטים במים הסוערים של החדשנות, נקווה שנשמע לאזהרתו ונכוון לעבר עתיד אתי יותר.