בחודשים האחרונים נשמעים יותר ויותר קולות, חלקם של מנכ"לי חברות הבינה המלאכותית עצמם, שטוענים שאנחנו נמצאים בתוך בועת בינה מלאכותית, ועדיין, לא מדובר בקביעה שכו-לם מסכימים עליה: יש כאלו שטוענים שמדובר בהגזמה ושפרשנים רבים ממהרים להכריז על בועות שעומדות להתפוצץ כמעט בכל שנה, וכמעט בכל שנה הם טועים. לפני שנכנסתי לתוך המספרים, לתוך הנתונים והטיעונים, גם לי לא היתה דעה מגובשת סביב השאלה האם אנחנו בבועה: האם יש בום של התלהבות מבינה מלאכותית? בוודאי, אבל למה לא? זו טכנולוגיה שעומדת לשנות את העולם, אם לא נתלהב ממנה, ממה נתלהב? האם יש של בום השקעות בבינה מלאכותית? כן, אבל ככה זה תמיד. במסילות רכבת לא השקיעו? באוטוסטרדות לא השקיעו? בהנחת סיבים אופטיים לא השקיעו? השקיעו. אז משקיעים גם עכשיו.בלגאן. ננסה לעשות סדר. ראשית, ננסה להבין ממה בנוי הטיעון שאנחנו נמצאים בבועה, על מה הוא נשען, על אילו נתונים ועד כמה הם משכנעים? לאחר מכן ננסה להבין האם הטיעון לפיו "גם אם יש בועה, זה לא כל כך רע - למעשה, זה אפילו טוב!", האם הטיעון הזה, משכנע.הצטיידו במשאבה או בסיכה: בום. בינה. בועה?קישורים:ג'ף בזוס בשבוע הטכנולוגיה האיטלקיhttps://www.youtube.com/watch?v=4Vf8pljp1FYמחקר חברת Bain & Cohttps://www.bain.com/about/media-center/press-releases/20252/$2-trillion-in-new-revenue-needed-to-fund-ais-scaling-trend---bain--companys-6th-annual-global-technology-report/הטקסט של קורי דוקטרוhttps://pluralistic.net/2025/09/27/econopocalypse/#subprime-intelligenceהניתוח של אד זיטרוןhttps://www.wheresyoured.at/the-case-against-generative-aiᐧ
--------
49:27
--------
49:27
אני מתנצל על הטעות בתשובתי הקודמת [עושים טכנולוגיה]
צ'אטבוטים אוהבים להתנצל. הם מתנצלים כל הזמן. הם ממהרים להתנצל. אין להם שום בעיה להתנצל. אפילו כשאין להם על מה להתנצל הם מתנצלים. אבל התנצלות היא לא סתם רצף של מילים. היא אירוע לשוני ייחודי שיש לו משמעות מיוחדת, השפעה מיוחדת, ושעומדת מאחוריו כוונה. אבל לבוטים האלו אין כוונה. אם הם לא מתכוונים לשום דבר, ולמילים שלהם באמת משמעות, למה הם מתנצלים ולמה אנחנו כל כך מתרשמים מההתנצלויות האלו?מחקר שפורסם באחרונה צולל אל ההתנצלויות של הבוטים, מנתח אותן וחוזר עם מסקנה מפתיעה: לא רק שההתנצלויות האלו ריקות, הן מטעות ומסוכנות ויתכן שהן מחייבות הרחבה או לכל הפחות שינוי בהגדרת אחד המושגים החשובים ביותר שבאמצעותם אנחנו מבינים את הבוטים: "בולשיט".קישורים:פוסט ברדיט: אני בושהhttps://www.reddit.com/r/GeminiAI/comments/1lxqbxa/i_am_actually_terrifiedמחקר: צ'אטבוט בולשיטhttps://arxiv.org/abs/2501.09910מחקר: ChatGPT הוא בולשיטhttps://link.springer.com/article/10.1007/s10676-024-09775-5מחקר: משחקי דמיון של צ'אטבוטיםhttps://journals.publishing.umich.edu/ergo/article/id/4668ᐧ
--------
39:57
--------
39:57
שיגעון בשניים - הכישרון של מר בוט [עושים טכנולוגיה]
בחודשים האחרונים פורסמו יותר ויותר אירועים שבהם אנשים שמתכתבים עם ChatGPT ובוטים אחרים, מפתחים דלוזיות, פסיכוזות ולעתים נקלעים לתוך מחילות של הזיה. בפרק בפרק הקודם התמקדתי בשאלה "איך זה קורה", הפעם אתמקד בשאלה אחרת: "למה זה קורה".תחילה אנסה להסביר מדוע אין טעם לבקש מהבוטים לספק הסבר שיבהיר למה הם עושים את מה שהם עושים ואחר כך אציג השערה שאני חושב שמסבירה למה חלק מהמשתמשים מוצאים את עצמם מדברים עם הבוטים האלו ובהדרגה גולשים תוך מחוזות ההזיה.קישורים:מיני סדרה: ריפליhttps://www.imdb.com/title/tt11016042כלי בינה מלאכותית עושים נזקיםhttps://arstechnica.com/information-technology/2025/07/ai-coding-assistants-chase-phantoms-destroy-real-user-data/למה אסור לסמוך על הבוטים שמסבירים את עצמםhttps://arstechnica.com/ai/2025/08/why-its-a-mistake-to-ask-chatbots-about-their-mistakes/מדריך הפרומפטים של חברת אנת'רופיקhttps://docs.anthropic.com/en/home
מאות מיליוני בני אדם משתמשים בצ'אטבוטים וזה לא מפתיע לגלות שחלקם מפגינים התנהגויות שיש בהן, למשל, מן ההתמכרות. אחרי הכל מבין מיליארדי בני האדם שאוכלים שוקולד, יהיו כמה שיתמכרו לשוקולד, מבין מיליארדי בני האדם שעושים קניות, יהיו כמה שיתמכרו לקניות, שלא לדבר על כך שלפעמים הבעיות שאנחנו רואים הן התוצאה ולא הסיבה. כלומר, בגלל שיש לי אישיות התמכרותית אני מבלה עשר שעות בצפייה בטלוויזיה. זה לא בגלל שהטלוויזיה "גרמה לי" להתמכר אליה אלא בגלל שאם זו לא היתה טלוויזיה זה כנראה היה משהו אחר.כך חשבתי על העניין עד לא מזמן אבל בחודשים האחרונים אני עוקב אחרי תופעה שהולכת ומתפשטת ברחבי העולם ואני מתחיל לשנות את דעתי: משתמשים ובעיקר בני משפחותיהם, מדווחים על אירועים פסיכוטיים, אירועים של הזיות, של פרנויה וניתוק מהמציאות, שמתרחשים אחרי סשנים ארוכים של שיחות עם הבוטים השונים.מה קורה במקרים האלו? האם אפשר למצוא דפוס משותף בשיחות שמתחילות כשיחה רגילות ובתוך זמן קצר יחסית הופכות לשיחות שנראה שיצאו מתוך הזיה? אני אספר על מחקר של קבוצת חוקרים בריטים שמספק קצה חוט להבנת הדינמיקה הרעילה הזו רגע לפני שננסה להבין למה האירועים האלו בכלל מתרחשים.קישורים:סיפורו אל אלן ברוקסhttps://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.htmlרדיט: ChatGPT מעורר פסיכוזהhttps://www.reddit.com/r/ChatGPT/comments/1kalae8/chatgpt_induced_psychosisרולינג-סטונס: אנשים מאבדים את היקרים להם לטובת בינה מלאכותיתhttps://www.rollingstone.com/culture/culture-features/ai-spiritual-delusions-destroying-human-relationships-1235330175/סרטון הווידאו של משקיע הון הסיכון ג'ף לואיסhttps://x.com/GeoffLewisOrg/status/1945212979173097560מחקר: שגעון טכנולוגי בשנייםhttps://arxiv.org/abs/2507.19218
--------
38:29
--------
38:29
פצ'ינקו זה החיים - המשחק שכבש את יפן [עושים טכנולוגיה]
תקציר: כמי שבילה חלק ניכר מילדותו באולמות משחקי הוידאו של תל-אביב, הייתי בטוח שאני מכיר את רוב מכונות המשחק הפופולאריות, אבל סרט דוקומנטרי ישן על התרבות היפנית, הציג בפניי משחק שלא ידעתי על קיומו. מקורותיו של המשחק נטועים בצרפת של לפני המהפכה הצרפתית. הוא חצה את האוקיינוס לארה"ב ומשם, כעבור כ-150 שנה, הוא הגיע ליפן ואז השתלט עליה לחלוטין.עד לא מכבר היפנים הוציאו על המשחק סכום כסף השווה ל-4% מהתוצר הלאומי הגולמי של המדינה כולה, כ-200 מיליארד דולר או פי 30 מכלל ההכנסות של תעשיית ההימורים בלאס-ווגאס. מה סוד הקסם של המשחק שכבר 100 שנה שולט בה ביד רמה, כיצד היאקוזה קשור אליו ומדוע היפנים כל כך אוהבים אותו? זהו סיפורו המשוגע של "פצ'ינקו", סיפור על טכנולוגיה ותרבות, פשע ודיפלומטיה, היסטוריה ופוליטיקה.הפרק שודר לראשונה באוקטובר 2021.קישורים:מצב תעשיית הפצ'ינקוhttps://agbrief.com/news/japan/26/11/2024/pachinko-market-to-continue-steady-decline-until-2028-research/סרטו של וים ונדרס, "טוקיו-גה".https://www.imdb.com/title/tt0090182סרטו של אוזו, The Flavor of Green Tea over Ricehttps://www.youtube.com/watch?v=AO-1aZQ-uUYניתוח תרבות יפן בעיניי שעות הפנאי של אזרחיהhttps://www.amazon.com/Culture-Japan-through-Leisure-Transition/dp/0791437914
South Africa