זהירות בינה מלאכותית !

בינה מלאכותית
צריך להיזהר מאד כאשר משתמשים ב"בינה מלאכותית Artificial Intelligence. בינה מלאכותית "יצירתית" יודעת לסרוק כמויות גדולות של נתונים רלוונטיים ולייצר משהו חדש על פיהם. בשביל לסבר את העיניים : היא יכולה לסרוק את כל השירים של ביאליק ולייצר משהו שדומה לשיר של ביאליק. אבל הבינה המלאכותית אין לה "שכל". היא מסוגלת לעשות שגיאות מזעזעות שתלמיד תיכון ממוצע לא היה עושה.
שלומי כהן מפירמת רואי החשבון Deloitte נתן שתי דוגמאות מאלפות (בראיון במוסף פרסומי של העיתון הכלכלי ( The Marker.דבריו מצוטטים ככתבם וכלשונם :
"שאלנו את Chat GPT מה מקור המנהג של אכילת תפוח בדבש בליל הסדר . כמובן שהציפייה הייתה שהטכנולוגיה תענה שזה לא מנהג של ליל הסדר אלא של ראש השנה, אבל לא זאת בלבד שהיא לא שללה זאת, אלא גם שהיא נתנה הסבר הגיוני מאוד לכך שאוכלים תפוח בדבש בליל הסדר. האפליקציה טענה שבמצרים העבדים היהודים היו מרירים מאוד בגלל העבדות ואכלו מרור , ולכן כדי להמתיק את המצב שלהם – אכלו תפוח בדבש . כאשר שאלנו אותה שאלה את Bard – מנוע הבינה המלאכותית של גוגל – קיבלנו הסבר שאכן לא אוכלים תפוח בדבש בליל הסדר – אבל בגלל שזה חמץ! לכן צריך להיזהר מאוד ולדעת לגדר את הסיכונים הללו. לבינה המלאכותית יש גם נטייה להדגיש אפליות. כאשר מדובר במחולל התמונות, אם נבקש ממנו תמונות של מנכ"לים הוא ידגיש אפליה : הוא יציג גברים לבנים מעונבים עם חולצות מכופתרות . אם נבקש תמונות של שרתים וטבחים – הוא יראה פרופיל היספאני מקסיקני, מכיוון שהוא מדגיש ממה שלמד מדאטה היסטורי".
מסקנה :
הִזָּהֲרוּ בְּדִבְרֵיכֶם;חֲכָמִים

שֶׁמָּא תָּחוֹבוּ חוֹבַת גָּלוּת,
וְתִגְלוּ לִמְקוֹם מַיִם הָרָעִים,
וְיִשְׁתּוּ הַתַּלְמִידִים הַבָּאִים אַחֲרֵיכֶם וְיָמוּתוּ,

משנה מסכת אבות פרק א