זו נקודת התורפה המפתיעה של ChatGPT

החברות המסקרנות בתחום, המהלכים החשאיים והטכנולוגיות שמעצבות את העתיד: מדור חדש של גלובס יציג מדי שבוע את החדשות המרכזיות מהשבוע החולף בענף ההייטק.

והשבוע: נביוס, שנוצרה מהנכסים הלא־רוסיים של יאנדקס, חוזרת למסחר בנאסד"ק, כשחברת־הבת שלה, Avride, שצוותה עבר דרך תל אביב, חותמת על שותפות עם אובר; אחרי התלונה של מנכ"ל אינטל לפני הבחירות - ביידן סוף סוף מעביר את המענק; ארבעה מהבנקים הגדולים בעולם משקיעים בפינטק ישראלי אחד; חוקרים ישראליים חושפים את נקודת התורפה של ChatGPT; ומומחה לדיפ-פייק מסתבך עם בינה מלאכותית בעצמו.

● השבוע בביומד | הפיתוח המשותף של אנבידיה ומכון ויצמן שיסייע בניבוי רמות הסוכר
● מה גורם לעזיבות באחת מהקרנות המייסדות של ההייטק הישראלי
● היא הייתה המניה הלוהטת של השנה והגיעה לסף קריסה. האם תינצל?

1מת"א לאוסטין: הגלגול החדש של יחידת הרכב האוטונומי של יאנדקס

עם הפלישה הרוסית לאוקריאנה, סולקו כל הנכסים של ענקית החיפוש יאנדקס מארה"ב, ובהם גם רובוטי-המשלוחים שטיילו בשבילי הקמפוסים, בשמה של חברת משלוחי המזון גראב-האב. לאחר שינוי בעלות ושינוי שם, חוזרים הרובוטים נמוכי הקומה והידידותיים למראה לשוטט ברחובות ארה"ב, הפעם דרך חברה בשם אברייד (Avride), גלגול של יחידת הרכב האוטונומי של יאנדקס, אשר נמכרה למייסד החברה ארקדי וולוז', שעבר לישראל לפני כעשור. אברייד מעסיקה 250 עובדים ומנוהלת ממגדלי אלון בתל אביב.

בימים האחרונים, הכריזה אברייד על שותפות רב־שנתית משמעותית עם אובר, במסגרתה ישולבו הרובוטים האוטונומיים שפיתחה החברה - שנועדו למשלוחי מזון על המדרכות - בשירות "אובר איטס" (Uber Eats) באוסטין, ובשנה הבאה גם בדאלאס ובג'רזי סיטי שבניו ג'רזי. השירות מאפשר ללקוח אובר איטס להזמין מנה ממסעדה, לבחור האם הוא מעוניין לקבל את המשלוח באמצעות הרובוט או שליח אנושי, וכאשר הרובוט - שגובהו כשל שרפרף - מתייצב בכתובת היעד, הוא פותח דלת עליונה וחושף את שקית המשלוחים.

אברייד היא אחת מארבע יחידות עסקיות של נביוס (Nebius) - חברה שהחלה להיסחר החודש בנאסד"ק תחת הסימול NBIS. בראשה עומד ארקדי וולוז', המתגורר בישראל, שהקים את יאנדקס והוביל אותה, עד שנאלץ לעזוב בעקבות המלחמה. נביוס נולדה מתוך יאנדקס N.V, חברת האם ההולנדית של ענקית החיפוש הרוסית, שבשיאה בסוף 2021 הייתה שווה 31 מיליארד דולר. עם הפלישה הרוסית לאוקראינה בפברואר 2022, השעתה נאסד"ק את המסחר במניית יאנדקס בשל הסנקציות שהוטלו אז על רוסיה, ושנה אחר כך אף איימה במחיקתה מהמסחר. החברה הצליחה להציל את הרישום שלה בבורסה דרך תהליך ארגון מחדש, תהליך שארך 16 חודשים - זאת, באמצעות מכירת כל נכסיה הרוסיים והתמקדות בפעילויות שמחוץ לרוסיה - כמו פעילות הענן, הרכבים וה-AI.

כיום, נביוס נסחרת בשווי של מעל 4.7 מיליארד דולר. וולוז', שהוסר מרשימת הסנקציות האירופית במרץ, לאחר שגינה פומבית את התקפת רוסיה על אוקראינה, מוביל את החברה בכיוון חדש. ליבת העסק, המהווה שני שליש מההכנסות, נובעת ממכירת מעבדים גרפיים לחברות הזקוקות לכוח עיבוד למודלים של בינה מלאכותית. בחודש שעבר, השיקה החברה פלטפורמת מחשוב ענן כוללת, עם מרכז נתונים בפינלנד. לצד אברייד, הקבוצה מחזיקה גם ב-"טולוקה", חברת בינה מלאכותית גנרטיבי בשוויץ, וב"טריפל טן", פלטפורמה ללימודי טכנולוגיה מקוונים ,הממוקמת בוויומינג. את עסקי החיפוש והפרסום, ליבת פעילותה של יאנדקס, נאלץ וולוז' להשאיר ברוסיה, בידיהם של קבוצת אנשי עסקים המקורבים לקרמלין.

2אחרי שהמנכ"ל יצא לתקשורת: ממשל ביידן מעביר סוף סוף את המענק לאינטל

שלושה ימים בלבד לפני הבחירות לנשיאות, יצא מנכ"ל אינטל בהצהרה לא רגילה - לאחר יותר משנתיים של הבטחה שלא מומשה, הוא החליט לדבר אל התקשורת ולהסביר לעולם כי למרות המצב הקשה שבו נתונה החברה שהוא מנהל, ממשל ביידן לא העביר את המענק שהבטיח לו מאז 2022. הסוף ידוע: טראמפ נבחר ברוב קולות ונראה שגם הוא, כמו ביידן, עשוי להמשיך במדיניות של חיזוק התעשייה המקומית. שלושה שבועות בלבד לאחר מכן, המענק נוחת בחשבון הבנק של ענקית השבבים: אינטל הודיעה כי המענק בגובה של 7.86 מיליארד דולר - סוף סוף הגיע. אמנם, מדובר במענק נמוך מה-8.5 מיליארד דולר לו כולם ציפו, אך גם נתון זה עשוי להקל במשהו על מצוקת המזומנים של חברת השבבים, ולהאיץ את תנופת הבנייה שלה בארה"ב ואולי גם בישראל.

בינתיים, מדווח בלומברג על כך שחברת השבבים המתחרה קוואלקום איבדה עניין ברכישתה של אינטל, בין השאר, בשל החוב הגדול שלה, שנאמד ב-50 מיליארד דולר, ובשל קווי עסקים הפסדיים רבים. עם זאת, בקוואלקום לא שוללים בהמשך הדרך רכישה של חלקים מאינטל. כמו למשל, חטיבת שבבי המחשבים האישיים הרווחית, או חטיבת שבבי התקשורת והשרתים.

3החוקרים הישראליים שמצאו את נקודת התורפה של ChatGPT

חברת הסייבר הישראלית נוסטיק (Knostic) חשפה השבוע שיטת תקיפה חדשה על מנועי בינה מלאכותית, המנצלת תכונה מפתיעה - אימפולסיביות. במחקר שפרסמו השבוע, הראו החוקרים כיצד ניתן לגרום למערכות כמו ChatGPT, או קופיילוט של מיקרוסופט, לחשוף מידע רגיש, תוך עקיפת מנגנוני האבטחה שלהן.

השיטה, שזכתה לשם Flowbreaking ("שבירת זרימה"), מנצלת פער מעניין בארכיטקטורה של מודלי השפה הגדולים: בתנאים מסוימים, המערכת "פולטת" מידע לפני שמנגנוני הבטיחות מספיקים לבדוק אותו - ואז מוחקת אותו במהירות, כמו אדם שמתחרט על דבר מה שאמר. המידע אמנם נמחק תוך שברירי שנייה, אך משתמש שמקליט את המסך יכול לתעד אותו.

"מערכות מודל גדול בנויות מרכיבים רבים, וניתן לתקוף את האינטראקציה בין הרכיבים השונים", מסביר גדי עברון, מנכ"ל ומייסד נוסטיק, שהקים בעברו את חברת סימטריה. החוקרים הדגימו שתי חולשות המנצלות את השיטה החדשה: האחת, המכונה "במחשבה שנייה", גורמת למודל לשלוח תשובה למשתמש לפני שהיא עוברת בדיקת אבטחה. השנייה, "עצור וזרום", מנצלת את כפתור העצירה כדי לקבל תשובות שטרם עברו סינון.

4בינה מלאכותית נגד עצמה: מי כתב את התצהיר התומך בחוק נגד דיפ־פייק?

התפתחות אירונית נרשמה במהלך דיון במשפט פדרלי במינסוטה שתכליתו קידום חוק נגד "דיפ־פייק", יצירת תכנים המתחזים לאמיתיים באמצעות בינה מלאכותית. בדיון התגלה כי תצהיר שהגיש מומחה מקצועי בעד החוק נכתב ככל הנראה בעצמו, באמצעות או על־ידי בינה מלאכותית.

לפי הפרסומים בתקשורת האמריקאית, ג'ף הנקוק, מייסד מעבדת המדיה החברתית של אוניברסיטת סטנפורד, הגיש תצהיר מטעם היועץ המשפטי לתמיכה בחוק, אך עורכי הדין המתנגדים לו גילו שהמסמך מצטט מחקרים שאינם קיימים במציאות. כך, בתצהיר מצוטטים מחקרים שפורסמו כביכול בכתבי עת אקדמיים מובילים, כמו מחקר מ-2023 שכותרתו "השפעת סרטוני דיפ־פייק על עמדות והתנהגות פוליטית", ומאמר נוסף בשם "דיפ־פייקים ואשליית האותנטיות: תהליכים קוגניטיביים מאחורי קבלת דיסאינפורמציה". עם זאת, כאמור, בדיקות העלו כי מחקרים אלה אינם קיימים כלל, מה שהוביל לטענות שהתצהיר כולל "הזיות" שנוצרו על־ידי בינה מלאכותית.

עורכי הדין המתנגדים לחוק טוענים כי ההפניות בתצהיר נראות כמו תוצרי AI, וכי המסמך כולו חסר מתודולוגיה או ניתוח מבוסס. לדבריהם, הממצאים מערערים את האמינות של התצהיר כולו, ומעלים שאלות רחבות יותר על השימוש בבינה מלאכותית בהקשרים משפטיים. ג'ף הנקוק, שכאמור, הגיש את התצהיר, לא הגיב לטענות, מה שמותיר סימני שאלה כיצד ציטוטים פיקטיביים מצאו את דרכם למסמך הרשמי.

5ארבעה מהבנקים הגדולים בעולם משקיעים בפינטק ישראלי אחד

ארבעה מהבנקים הגדולים בעולם: סיטי, מורגן סטנלי, סטייט סטריט ו-UBS, החליטו להשקיע יחד בחברת הפינטק הישראלית קפיטוליס (Capitolis), שפיתחה פלטפורמה לניהול הון משותף על־ידי הבנקים. כל אחד מהם יזרים 5 מיליון דולר לחברה וישלח נציג משלו לדירקטוריון.

קפיטוליס, שהוקמה ב-2017 על־ידי גיל מנדלזיס, פיתחה פלטפורמה שמאפשרת לאותם המשקיעים לעשות את מה שעד לאחרונה, נחשב ללא ממש אפשרי: לשתף פעולה בניהול ההון שלהם. דרישות הרגולציה המחמירות מחייבת בנקים להחזיק רזרבות הון עצומות, כך שהיכולת למקסם את יעילות ההון הזה היא קריטית, כך לטענת החברה.

מה שהופך את העסקה למעניינת במיוחד, הוא העובדה שהבנקים אינם רק משקיעים גרידא - הם גם לקוחות של החברה. ברשימת המשקיעים של קפיטוליס נמצאים משקיעי ענק כמו אנדריסן הורוביץ, סקויה קפיטל ואינדקס. ההשקעה הנוכחית מסמנת שלב חדש בהתפתחות החברה - כניסה של שחקני ענק מהתעשייה עצמה. החברה, שגייסה עד היום 300 מיליון דולר, מעסיקה 130 עובדים, מהם 50 בישראל.