AITsoof

אפקט דיפסיק: מודל מוזיקה סיני (כמו Suno)

https://x.com/abc43992899/status/1883940231700951284?s=46

תקראו את זה טוב טוב.. ובקול שלו 😬

רצף המגיבים שלא היה לי בבינגו השנתי. אגב, פוליטיקה בצד, אראל סגל מסתבר ממש בתוך הסיפור של AI מתוך עניין אישי. הוא לא מהתחום המקצועי וממש מחובר לכל ההתפתחויות.

קונספירציה לילית

https://x.com/tsoofbaror/status/1883623587996918196?s=46

מה מעניין אתכם

אורי שיחק עם Operator החדש של OpenAI והתרשם לטובה:
https://x.com/urieli17/status/1883408740189368332

האינטרנט גועש על DeepSeek, יש כמה נקודות דרמה:
מדובר במודל שמצליח להגיע לביצועים של o1-preview במגוון בנצ׳מארקים (למרות שיש אינדיקציות שהוא לא באמת טוב כמוהו).
המודל הוא מודל סיני, מה שגורם לכל הטוויטר האמריקאי להטיל ספק בכל הטענות של היוצרים שלו. ספציפית, המודל ״מצנזר״ המון דברים שקשורים לסין. העניין הוא שזה מודל בקוד פתוח. כל אחד יכול לקחת ולאמן אותו איך שהוא רוצה, אז הטיעון הזה קצת דבילי. בסדר, הוא מודל סיני ובגרסתו הבסיסית לא מוכן לביקורת על סין. אגב, אם חשבתם, אין שום סיכוי ש״מושתל״ משהו במודל שיעשה בלאגן למי שינסה לקחת ולהשתמש בו אצלו. לא אפשרי טכנית.
אבל מאיפה הוא הגיע בכלל? מי מממן את זה?
אז החברה של DeepSeek טוענת שהוא סוג של ״פרוייקט צד״ בעלות של שישה מיליון $ של איזו חברה סינית שמתעסקת בהשקעות אלגורתמיות (״קוואנטס״ מה שנקרא). מדובר בתקציב נמוך מאד מאד ואפילו קצת לא סביר. שתבינו, Meta בזבזו 700 מיליון דולר כדי לאמן את Llama 3 405B, וDeepSeek הוא מודל של יותר מ600B (שנכון, הוא בעצם MoE כשלאמה הוא Dense, אבל עדיין הפער הזה הזוי).
נטען גם שהם קנו את כל GPUs שלהם עוד לפני שהיו מגבלות על סין של יבוא שבבים של אנווידיה.
עם כל מה שקשור למדע סיני רב הנסתר על הגלוי. המחיר של DeepSeek למפתחים קטן משמעותית מהמחירים של OpenAI. מי שחושש שהסינים יגנבו לו את המידע - יכול פשוט לקחת את המודל ולהריץ אותו בענן שלו, ששוב, אין שום דרך לגנוב את המידע ברגע שזה ענן שלך.
עד כאן

כשמודלי שפה מייצרים טקסט, יש טוקנים ״מיוחדים״ שאנחנו לא רואים על המסך של צ׳אט GPT. מה שנכנס ויוצא מצ׳אט הוא רציף לחלוטין, ויכול להראות ככה:
״|מערכת| אומרת משהו |משתמש| שואל שאלה |מערכת| עונה משהו |תנועת עכבר קו רוחב| 893 |תנועת עכבר קו אורך| 281 |קליק|״
בעצם כל מה שסגור עם | נתפס במערכת כסוג של ״יחידה אחת״, והתוכנה שפועלת מעל Operator מסתירה את זה כטקסט, ומשתמשת בזה לביצוע פעולות בדפדפן. בכל מקרה, נחכה לדו״ח טכני.

קצת על הדיון שהיה בתגובות על האם תנועת העכבר של Operator רציפה או לא.
או במילים אחרות: האם הוא בוחר נקודות על המסך ואז מבצע אינטרקציה או ממש מזיז עכבר.
כמובן שהכל דעתי.
דעתי: אין תנועות עכבר.
צריך להבין רגע איך האלגוריתם של מודל שפה עובד, וזה מאד מתאים לזה שהם בחרו להשתמש בצילומי מסך ולא בוידאו רציף.
האלגוריתם מקבל קלט - כל היסטוריה השיחה עד רגע זה, ובכל פעם הוא מוציא החוצה משהו בדיד. לדוגמא, אם מודל כזה היה נוהג, כדי לייצר מצב של תנועה רציפה הוא היה צריך ככל הנראה ״לפלוט החוצה״ ״גז, גז, גז״ ממש כל כמה מילישניות עד שהוא רוצה להפסיק. באופן כללי, תנועה היא דבר מורכב כשמדברים על מודלים שכל מה שהם יודעים לעשות זה לפלוט החוצה הוראה בדידה.
כשמודל שפה מדבר, הוא בכל פעם מוציא החוצה את הטוקן (מילה) הבא. כשמודל בארכיטקטורה של מודל שפה כמו Grok של X לדוגמא מייצר תמונה (יש שתי גישות בנושא, לא נכנס לזה, אבל גרוק עובד בצורה הזו), הוא פולט החוצה טוקן-טוקן של תמונה, מה שמייצר את התמונה לאט לאט ובהדרגה.
למה זה חשוב לOperator? כי כדי לייצר תנועת עכבר רציפה הוא צריך להתחיל לפלוט החוצה: שמאל, שמאל, ימינה, למעלה.. דבר שבאופן עקרוני אין לו כל כך משמעות אל מול, לדוגמא, לקחת את מידות המסך (1920x1080) ולפלוט החוצה: עכבר לנקודה 923 אורך 865 רוחב, קליק.
זאת דעתי (המשך בהודעה הבאה)

עוד עניין חשוב: כל פעם מחדש נופלים בזה.
יש לOpenAI דרך מאד ספציפית לשחרר דברים, והיא כמעט אף פעם לא ב״בום גדול וואו זה משנה חיים״. זה תמיד מתחיל בקטן, והם משפרים אינקרמנטלית. שום הכרזה לא שוברת את העולם.
פעם אחרונה שהם יצאו בהכרזה גרנדיוזית הייתה כשgpt-4o יצא לעולם ביחד עם הadvanced voice mode שלקח להם חודשים על גבי חודשים באמת להוציא החוצה. הם למדו מהטעות הזו.

אוקי, דמו עם מעט מאד פרטים. בטח ישחררו דו״ח טכני ונוכל להבין יותר מה קורה שם. החידה בעיני זה איך המודל ממקם ״פעולה״ על המסך. זה לא טרוויאלי.

למודל קוראים CUA. כמובן שהוא הכי טוב במעט מבחנים (בנצ׳מארקים) שיש בתחום של שימוש במחשב.

טוב יש להם מלא הגנות לשימוש לרעה.. פחות מעניין

מה שאני לא מבין זה איך הוא מחליט על מה ללחוץ ולאן ללכת. בסוף, הוא חוזה את הטוקן הבא. יש טוקנים מיוחדים שקשורים לאיזור במסך שעליו צריך לבצע פעולה?

כן, אוקי, יש ״אפליקציות״ בOperator, אבל הוא יכול להשתמש בכל אתר.

למרות שהם אומרים שהוא חופשי זה כן נראה כאילו יש לו אינטגרציות ספציפיות 🫢

פעולה -> צילום מסך -> חשיבה -> פעולה.
מאד הגיוני ומרגיש לי מאד קשה לביצוע. קצת כמו נהיגה, שזה על פניו מאד ״טכני״, כמות מצבי הקצה שבהם המודל עלול להתקע עצומה וזאת תמיד הבעיה. ״בעית זנב ההתפלגות״, ש95% עובד כמו שצריך, ו5% האחרונים די בלתי אפשריים (או שכן.. עדיין אין נהיגה אוטונומית, בכל מקרה).
במקרה הזה זה פחות קריטי כי טעות לא הורגת אנשים.

אוקי, אז זה בעצם מודל שמקבל צילום מסך, רואה את התמונה, חושב עם עצמו ומחליט על ביצוע פעולה (קליק, לדוגמא), ואז מצלם את המסך שוב. גישה מעניינת

המודל מתקשר ישירות עם הדפדפן. מסתכל עליו, לא צריך אינטגרציות או משהו כזה. טוב, אם זה היה המצב זה היה גרוע ממש. המודל ממש מסמלץ את העכבר והמקלדת.

מודל חדש שאימנו בOpenAI שמיועד לשימוש במחשב, מבוסס על GPT 4o. קוראים לו Coa? Coola? לא הבנתי בדיוק

האתגר העיקרי בדברים האלה הוא באמת האישור מהיוזר לפי ביצוע פעולה קריטית. הם טוענים שהוא אכן יעשה את זה. ומה.. אם.. לא..

יש לOperator דפדפן אינטרנט משלו. הוא ממש משוטט באינטרנט כמו יוזר אמיתי, מזיז את העכבר. מעניין מה עוד יש פה חוץ ממודל שפה.. נקשיב.

יתחיל רק למשתמשי הPRO (ה200$) בארה״ב, ובהמשך לפלוס ולשאר המדינות.
זה עדיין Early Research Preview.. יעני.. לא מתחייבים שזה טוב.

"אנו מכריזים בזאת על הAgent הראשון שלנו״ - Operator

עוד רגע מתחיל

דיווחים מעניינים ממטא...

20:00 בערב היום, הכרזה על Operator:
https://www.youtube.com/watch?v=CSE77wAdDLg

מזמן לא דיברנו.. Sora
https://x.com/tsoofbaror/status/1867496916323586263

בדיחה מס׳ 2

רץ ברשת

לא יודע אם שמתם לב.
שני פרסי נובל מחולקים, בפיזיקה וכימיה - שניהם בכלל על AI.
הרשת גועשת על זה.
בפיזיקה - שני זוכרים על המצאות של אלגוריתמים ״בהשראת פיזיקה״ (וגם.. לא ממש ממש..) שמאפשרים לימוד מכונה.
בכימיה - על מודל AI של דיפמיינד (גוגל) שקשור לקיפול חלבונים.
יש שיח מאד ער אם זה לגיטימי או לא. יש פרס למדעי המחשב, פרס טיורינג. אין פרס נובל למדעי המחשב, ומכל התגליות בתחום, פרס הנובל השנה בשני תחומים (!) מוענק לפיתוח מודלים ואלגוריתמי לימוד מכונה.
די הזיה.

מאד עמוס, לא עדכנתי כאן תקופה. מנסה לחזור לאט לאט. OpenAI בבלוג פוסט מעניין - ״היעדים הטכניים שלנו״.
1. למצוא שיטות אמינות כדי ״למדוד את ההתקדמות״ של המודלים שלהם
2. לבנות ״רובוט ביתי״, שייוצר ע״י חברות אחרות. כלומר עובדים על הטכנולוגיה שתאפשר לרובוט שיקפל לנו כביסה ויעשה מדיח. נפלא
3. ״בניין סוכן שימושי שמבין שפה״, טוב, זה האובייס
4. ״לפתור״ מגוון משחקים בעזרת סוכן (מודל) בודד - זה מעניין. מי שבקיא בהיסטוריה של OpenAI מכיר את סוכני הDota שלהם (ראו ערך OpenAI 5. לא GPT5, אלא OpenAI 5). הם רוצים לייצר מודלים שידעו להגיע למשחק מחשב, להבין אותו ולנצח בו - כל זה מבלי שאומנו ספציפית רק עליו. זה ברור למה - אם מודל מצליח להגיע לסביבה חדשה, ללמוד אותה ולהצטיין בה - רלוונטי לכל שאר המטרות, ומשחקי מחשב הם סביבת סימולציה נהדרת.
בוקר אור :)
https://openai.com/index/openai-technical-goals/

המודל החדש של OpenAI הוא לא ״יותר טוב״ בכללי. הוא אחר, והוא טוב ל Reasoning. אז מה זה בכלל, ואיך אפשר לראות את זה?
https://x.com/tsoofbaror/status/1834561644959302001

טוב, סופית:
גרסה מוקטנת של פרוייקט Strawberry בחוץ. כל מה שנאמר בפרק הנעוץ כאן עדיין מאד רלוונטי, מדעית אנחנו לא יודעים על זה כלום. לילה טוב!

אוקי, זה הרבה פחות מרגש ממה שחשבתי. יש עוד מחשבות ביניים שלא מוצגות ליוזר ובגלל זה ההמתנה בין מחשבה למחשבה.

המודל החדש חושב בצעדים, ונראה שיש איזה שהוא תהליך ולידציה על כל שלב. סוג של מודל שאומן ישירות על chain of thought עם סוג של פידבק. יש לי הרבה מחשבות על מה לעזאזל קורה כאן, עוד לא החלטתי כמה זה טוב, אבל זה טוב.

סטרוברי?
(עריכה, נראה שכן)
https://x.com/openai/status/1834278217626317026?s=46

שמועות שOpus 3.5 אצלנו בימים הקרובים. התרגשות.

בוקר בטוח לכולם 🇮🇱

אז OpenAI שחררו את האפשרות לעשות Fine Tune לGPT4o. כבר מרגיש לא מעניין עם כל הבאזז שנהיה על מודלים חדשים. אני תוהה מי הלקוח של שירות כזה בכלל. זה תהליך קשה, שלא ברור שיצליח בכלל. כל העולם מה עדיף, Fine Tuning או RAG, אבל אף אחד לא ממש מוצא יוזקייסים טובים שמוכיחים את עצמם לדברים האלה..
יאללה, שיביאו משהו מעניין

Channel name was changed to «AITsoof»

עדכון אחרון בנושא הזה עד שיהיה משהו אמיתי: התחזיות של מר תות לא התגשמו, אבל עכשיו הצטרפה יוזרית חדשה ואלמונית בשם לילי אשווד. הייתי בספייס הראשון שבו היא עלתה. טוענת שהיא פסיכולוגית, היו לה איזה מאה עוקבים, עכשיו 8000. כולם חושדים שהיא בכלל בוט AI סופר מתוחכם.
זהו, אני עוזב את הסיפור הזה עד שמשהו אמיתי קורה

למי ששאל מי זה לעזאזל מר תות.
ההודעה הזו + הפרק האחרון של הפודקאסט ישלימו לכם את התמונה.

תראו מי החליט לעקוב אחרי

חשוב להגיד - רוב האנשים לא קיבלו גישה לAdvanced Voice Mode החדש (כולל אני). הסיכוי שישתחרר מודל חדש שדורש כוח מחשוב עצום כשהם עוד לא עומדים בשחרור של פיצ׳ר הקול.. מרגיש קלוש

מר תות מפרסם מלא דברים שנראים פייק. לא סימן טוב 😂