העלייה התימנית "השנייה", בשנים 1914־1912, היא עלייה שאין לה אח ורע בין כל העליות שהגיעו לארץ ישראל לפני קום המדינה ולאחריה, שהיו עליות הצלה ומצוקה. ייחודה בכך שהורתה ולידתה של היוזמה לעלייה זו באו מתוך צורך יישובי־ציוני על ידי המשרד הארצישראלי, שנוסד ב־1908 על ידי התנועה הציונית.
קורותיה של עלייה זו נחקרו ותועדו היטב: החל מיוזמת רופין, המשך על ידי ר' בנימין (יהושע רדלר־פלדמן), אשר נועץ עם הרב קוק, אז הרב של יפו והמושבות, שאף חיבר איגרת מיוחדת לחכמי תימן, וכלה בשמואל יבנאלי (ורשבסקי), איש העלייה השנייה, שנשלח לתימן, עטה על עצמו חזות מסורתית כדי להביא את בשורת חיי ארץ ישראל המתחדשת, שהה בה כשנה ורבע וחזר באמצע תרע"ב.
ואולם באותה עת התקיים ערוץ תקשורת נוסף בנושא זה, התכתבות שלא הייתה מוכרת לחוקרי עליות יהודי תימן. אליעזר בן־יהודה חלק את מחשבותיו ותוכניותיו בנוגע להעלאת יהודי תימן עם מנחם אוסישקין, יושב ראש הוועד האודסאי, שתמך בקידום העבודה המעשית בארץ ישראל. עיון במכתבי בן־יהודה מעיד שבראש מעייניו ניצבה דווקא שאלת מעמדם המדיני של יהודי ארץ ישראל.
לא להחמיץ את השעה
בעקבות הכרזת החוקה העות'מאנית ב־1908, נפתחה האפשרות לכל עדה לבחור נציגים לבית הנבחרים. בן־יהודה יצא בקריאה נרגשת בעיתונו לציבור היהודי: "יהודים, היו עותמנים", כדי להגדיל את מספר הבוחרים היהודים העות'מאניים ועל מנת שתהיה נציגות יהודית משמעותית בבית הנבחרים העות'מאני. ברם, קריאה זו נותרה בלא היענות כמעט מצד האוכלוסייה היהודית, אף שהייתה הרוב בירושלים. רובם רצו להחזיק באזרחותם הזרה שהקנתה להם זכויות יתר ("קפיטולציות"), ולא היו מוכנים לוותר עליה לטובת הנתינות העות'מאנית.
לעומת היעדר "כל רגש מדיני" בציבור היהודי, קבל בן־יהודה, לאוכלוסייה הערבית הייתה נציגות בבתי הנבחרים, והתנגדותה להתיישבות היהודית הלכה וגברה. הוא העריך שאף כי השלטונות הטורקיים אינם "עוינים כל כך" ליהודים, הם רוצים להשביע את רצון הערבים, לדבריו, משום שהממשלה "יראה מהם".
בשל מציאות זו, קובע בן־יהודה: "נצרכים לנו יהודים עותומנים, ויש מקור אחד להשיגם – תימן (שהייתה אף היא חלק מהאימפריה העות'מאנית)… צריך להביא את היהודים מגלות תימן, הם שם כחמישים שישים ואולי שמונים מאה אלף… ועלינו למהר, למהר!". זוהי אפוא שעת כושר לזמן קצר, גורס בן־יהודה, ויש לנצל זאת.
בן־יהודה משתף את אוסישקין בידיעותיו על אודות מצב יהודי תימן:
הם סובלים שם מהערבים. אך החברה כי"ח כבר פרשה כפה עליהם. היא מיסדת להם בתי ספר, וזה אין לכחד, מי שלמד בבית הספר של החברה אינו מניח את עצמו להיות למרמס לאיזה ערבי, והערבי אינו מעיז לעשות זאת, וכאשר יהיה שם דור תלמידי בית הספר לא יחפצו יותר לבוא הנה, מפני שתימן היא באמת ארץ זבת חלב ודבש! ולכן חרף זה צריך למהר. עתה הם משתוקקים כלם לבוא, והם יבואו בלי שום עזרה כמעט מצדנו, יבואו ברגליהם בלחם יבש נדודים(?) בכל הדרך.
כדי לעורר את רצונם לבוא ארצה, ממשיך בן־יהודה, יש צורך בהכנת חומרי הסברה שיתאימו לאופיים ולמושגיהם הרוחניים:
מה שצריך לעשות בזה מצד הוא ראשית להעיר עוד יותר התשוקה שם, ולזה נצרך חבר פה על ידי רבני התימנים שבירושלם מחברות של תעמולה, כתובות בלשונם, בעברית אמנם, אך בסגנונם, וברוחם, בענין האמונה בקרבת הקץ שנתפשטה שם. צריך לחבר מחברות כאלה וצריך לשלח שמה, וכמו כן מכתבים מודיעים עד כמה גדולה החרות ליהודים פה, וכי יש אפשרות להרויח פה.
ואולם, התעמולה כשלעצמה לא תספיק, ויש להיערך לקליטתם:
וצריך עוד שפה יעסקו אנשים אחדים לסדר הדבר ולמצוא להם עבודה. כל המושבות רוצות בהם. בשבוע העבר אומר לי מאירוביץ, כי ראשון לציון מקוה להשיג עוד כעשרים משפחה לראשית ימי הגשמים! ולכן, אם יש בדעת אדוני לקחת בידו את הדבר הזה, שהוא לפי דעתי, הדבר האחד שאפשר עתה ושצריך עתה לעשות, ימנה אדוני פה אנשים אחדים… שיעסקו בדבר בצנעה גמורה.
הצלחת הפעילות הזו תלויה בראש ובראשונה בהעמדת מימון כספי "מחברת חו"צ (חובבי ציון) של אדוני ומהציונות וכיו"ב", כדי לכתוב את חוברות ההסברה, להדפיסן ולשגרן לתימן, ועם בוא השליחים לטפל בהשתלבותם "מבלי שידעו כי יש אנשים פה העוסקים בהבאתם הנה". וחשוב, מדגיש בן ־יהודה, למנות אדם אחד שיהיה "העסקן התמידי בדבר", וילווה את הפעילות הזו לכל שלביה. הוא סבור שהאיש הראוי לכך, אם אוסישקין יסכים, הוא מנהל "בצלאל", בוריס שץ, שכבר צבר ניסיון בעבודה עם התימנים ובהעסקתם בבתי המלאכה לצורפות ולתכשיטנות של בית הספר ,"והם מאמינים בו".
אלה "השרטוטים הגסים של הצעה זו", מסכם בן־יהודה, ומסיים את מכתבו:
אולי אני טועה, אולי אני עִוֵר, אבל עד כמה שאני יכול להאמין למה שעיני רוחי רואות, אני אוכל לקרוא קול גדול: ברגע זה, במעמד העניינים כעת, זו הפעולה היותר גדולה, האחת האפשרית עתה לטובת מטרתנו.
"בינתיים נתקדרו שמינו"
אוסישקין ניאות להירתם לפעולה להבאת יהודי תימן, אלא שמטבע הדברים הפנה את בן־יהודה לתאם את הפרטים המעשיים עם ד"ר רופין, שהיה איש הביצוע של ההסתדרות הציונית בארץ ישראל. ממכתבו השני של בן־יהודה לאוסישקין, כעבור שנה ושמונה חודשים, אנו מבינים שבן־יהודה שוחח עם רופין, שאמנם שמח על נכונותו של אוסישקין להשתתף במשימה זו.
אלא שראיתי כי הוא, דר' רֻופין רוצה לעשות מזה ענין פעוט להביא מאות אחדים פועלים תימנים לכאן… ובינתיים נתקדרו שמינו עוד יותר מהצוררים מבית ומחוץ, ורוחי עוד יותר דִכא… והנה מעמד העניינים בתימן עתה העירוני עוד פעם לפנות אל אדוני. הנני שולח לו בזה העתקה משני מכתבים שהגיעו להרבנים התימנים פה, אחד מיפו, ואחד מתימן בעצמה. ישים נא אדוני לבו אליהם, אולי יראה כי עתה העת לעשות ואם נניח ההזדמנות מידינו עתה – אולי יהיה כמו בכל דבר. שבאנו שעה אחת אחרי המועד! אני מתחנן לאדוני חוסו חושו, התבוננו לדרוש והחליטו מעשה גדול, לפי מעמד השעה!
בן־יהודה לא שקט על שמריו, וכנראה לפי עצת אוסישקין, פנה למנחם שיינקין שיכין חוברת קטנה "אודות מצוות הישיבה בארץ הקודש, מחובר על ידי אחד מרבני התימנים". החוברת נדפסה, ועותק שלה נשלח לרופין. זהו מהלך דומה מאוד לזה שננקט על ידי ר' בנימין, כשפנה לרב קוק בהנחיית רופין, עבור שליחות יבנאלי.
בכך התמצתה כנראה מעורבותו של בן־יהודה בניסיונות להעלות את רוב יהודי תימן ולהגדיל כך באופן משמעותי מאוד את מספרה של האוכלוסייה היהודית בארץ בעלת הנתינות העות'מאנית. כדרכו, בן־יהודה ביקש ללכת בגדול, אולם ליוזמתו לא היה הד מעשי והיא לא קרמה עור וגידים. רופין, לעומת זאת, ציין כי עד מלחמת העולם הראשונה עלו לארץ עוד אלפיים יהודים מתימן וראה בשליחות יבנאלי הצלחה גדולה. רק בעליית "מרבד הקסמים" מקום המדינה, בשנים 1948־1950, הגיעו ארצה כ־50 אלף יהודים מתימן. 
