moaz taha (@itsmoaaz) header
moaz taha (@itsmoaaz) profile picture

Building https://xitter.cf/t.co/leqJUvWiqv شطورة 🤖 AI Engineer 👨🏼‍💻 - BUE

Joined May 2015
Wait until u try Hermes 🫡
You’re unable to view this Post because this account owner limits who can view their Posts. Learn more
1
1
186
Just use work already there on gh and tell it to run it Worked for my lg
How tf are people able to do this? Claude just refuses to do this for me
1
150
You know you reached your limit when you feel it in your guts
1
83
Best (and only) compliment since I became lzloz 😂
2
3
215
حوار الكروت دا مضحك بصراحة أنا الفكهاني و السوبر ماركت الصغير فشخ جنب البيت شغال فيزا عادي بمشي ٩٩٪ من الوقت من غير كاش في دمياط عادي الباقي ترو بنسبة طبعا بس بالنسبة للخروجات مفهاش بحر بردو 😂
-مفيش خروجات في أي محافظة زي القاهرة -مفيش تعامل بالكروت في ٩٠٪ من الأماكن زي القاهرة -مفيش شوبينج زي القاهرة -مفيش مصالح هتتقضي الا في القاهرة -مفيش مدارس زي اللي في القاهرة -مفيش فرص عمل محترمة تقريباً الا في القاهرة مشاعرها حقيقية بس انتوا اللي اعتدوا النعمة و مش مقدرين حجمها
169
دمياط بتاعتنا،فين في دمياط 😂
اعبط حاجه شوفتها الاسبوع ده شركة سعودية ومديرها سعودي، ماسكين شغل لشركات كبيرة جدا بس الاوفيس في مصر وتحديدا دمياط الجديدة عشان يدفع لـ UI UX سالري 8000 جنيه ويدفع لـ Front-end سالري 9500 جنيه وده عموما بقى المنتشر مؤخرا في دمياط والمنصورة عشان يحقق اعلى مكسب ويدفع قليل
248
الواحد تعب عموما
2
290
أنا بكل بصراحة زهقت من المجال 🙂
واحدة من الوظايف اللي عليها طلب عالي في المجال ال AI و في نفس الوقت العرض فيها نسبيًا قليل هي الـ Inference Engineering خصوصًا في السوق الأمريكي و الاوربي و اعتقد قريب السوق الخليجي. الشركات مش محتاجة بس ناس تعرف تبني أو تدرب models، لكن كمان ناس تعرف تشغّل LLMs وVLMs وخدمات STT/TTS بكفاءة لملايين المستخدمين و باقل تكلفة ممكنو. حاولت أرتب الـ resources دي في learning path التالي: 1. ابدأ بأساسيات LLM Inference اول حاجة محتاج تفهم lifecycle بتاعة request واحدة. لازم تبقى فاهم المفاهيم زي: - ال Tokenization - ال Forward pass - ال Autoregressive generation - ال Prefill - ال Decodeا - ال KV cache - ال TTFT وITL - ال Throughput vs. latency المصادر: - ال NVIDIA talk at AI Engineering youtu.be/9tvJ_GYJA-o - ال Hugging Face — LLM Inference at Scale with TGI huggingface.co/blog/martinig… - ال Abi Aryan — Prefill vs. Decode substack.com/home/post/p-187… 2. الفهم الاساسي لل Transformer internals مش محتاج ترجع تذاكر الـ Transformer architecture كلها من الأول. ركز أكتر على الحاجات اللي ليها علاقة مباشرة بالـ inference: - ال Transformer blocks - ال Embeddings - ال Self-attention - ال Q, K, V - إزاي attention بينتج عنها الـ KV cache من أحسن الـ resources اللي بتساعد تبني intuition بصري للموضوع: - ال Brendan Bycroft LLM Visualizer bbycroft.net/llm 3. الفهم الاساسي لل mental model للـ GPU على الأقل حاول تفهم: - ال GPU architecture - ال Streaming Multiprocessors - ال HBM vs. SRAM - ال Memory hierarchy - ال Memory bandwidth - ال FLOPS - ال Arithmetic intensity - ال Compute-bound vs. memory-bound workloads جزء كبير من inference optimization بيبدأ يبقى أوضح لما تبطل تفكر في الـ model بس، وتبدأ تفكر كمان في إزاي الـ data بتتحرك جوه الـ GPU. ال resources دي هتكون مفيدة: - ال Horace He — Making Deep Learning Go Brrrr From First Principles horace.io/brrr_intro.html - ال Damek Davis — Basic Facts about GPUs damek.github.io/random/basic… 4. بعدها ابدأ في تقنيات ال Inference Optimization لما تكون فاهم الأساسيات والـ hardware، التقنيات دي مش هتبقى مجرد مجموعة tricks منفصلة عن بعض. ركز على: ال Quantization ال PagedAttention ال FlashAttention ال Chunked prefill ال Speculative decoding ال Prompt / Prefix caching ال Continuous batching شركة NVIDIA عندهم overview كويس جدًا للموضوع: - Mastering LLM Techniques: Inference Optimization developer.nvidia.com/blog/ma… بعدها ممكن تبدأ تقرأ الـ original papers للحاجات المرتبطة أكتر بالـ systems اللي بتشتغل عليها. 5. وفي الآخر، اختار Inference Engine وادرسه و ممكن حتى تعمل open source contributions ليهم هنا أغلب المفاهيم اللي ذاكرتها بتبدأ تتجمع في system واحدة. اختار engine وافهم request بتمشي جواه إزاي: - ال Scheduling - ال Batching - ال KV-cache management - ال Memory allocation - ال Execution - ال Serving فيه 3 engines ممكن تبدأ بيهم: - ال vLLM: اختيار قوي لو مهتم بـ general-purpose high-throughput LLM serving. - ال SGLang: مثير للاهتمام خصوصًا في workloads اللي فيها reusable prefixes أو LLM programs معقدة زي multi-turn وagentic systems. - ال llama.cpp: مهم لو مهتم بالـ local inference، CPUs، consumer hardware أو edge deployment. اهم المصادر: - ال Inside vLLM aleksagordic.com/blog/vllm - ال Distributed LLM Inference bentoml.com/blog/the-shift-t… ولو إنت أصلًا mid-level أو senior ML/AI engineer، بعدها ممكن تدخل في: - ال Tensor parallelism - ال Pipeline parallelism - ال Prefill-decode disaggregation - ال Distributed KV caching - ال Load balancing - ال Prefix-aware routing -ال Multi-node inference لو شغلك حاليًا في ML أو AI engineering، أعتقد إن LLM inference من المجالات اللي تستحق وقت أكبر في الفترة الجاية.
2
4
121
35,557
Late night friends
1
133
moaz taha retweeted
فاهماك يا اياد
30
1,530
253
5,795
2,312,410
Maybe we won’t reach that point
Q: اي ال plan بتاعتك لو لا قدر الله حصل layoff ومعرفتش تلاقي شغل تاني في ال software Ahmed Essam: أنا فعلًا بدأت أدرس Liberal Arts، وبفكر كمان أدخل Trade School وأتعلم حرفة عملية زي النجارة أو الكهرباء أو السباكة. الفكرة إني أبني لنفسي مسارين مختلفين: واحد فكري يعتمد على المعرفة والتحليل، وواحد يدوي يعتمد على مهارة مطلوبة على أرض الواقع. وجود المسارين يخليني أكثر قدرة على التكيف لو حصل تغيير كبير في سوق البرمجيات. أنا مش مؤمن إن الـsoftware هيموت، لأن العالم هيحتاج برمجيات أكتر، لكن أعتقد إن القيمة السوقية لمهندس البرمجيات التقليدي ممكن تقل مع زيادة إنتاجية الـAI وانخفاض عدد الناس المطلوبين لتنفيذ نفس العمل. لذلك خطتي مش الهروب من المجال، لكن توسيع هويتي وقدراتي بحيث مايبقاش رزقي كله متعلقًا بصناعة واحدة. ask-ahmed.aessam.chatgpt.sit…
1
524
شكلنا هنرجع للcontent ولا ايه 🫣
Q: اي ال plan بتاعتك لو لا قدر الله حصل layoff ومعرفتش تلاقي شغل تاني في ال software Ahmed Essam: أنا فعلًا بدأت أدرس Liberal Arts، وبفكر كمان أدخل Trade School وأتعلم حرفة عملية زي النجارة أو الكهرباء أو السباكة. الفكرة إني أبني لنفسي مسارين مختلفين: واحد فكري يعتمد على المعرفة والتحليل، وواحد يدوي يعتمد على مهارة مطلوبة على أرض الواقع. وجود المسارين يخليني أكثر قدرة على التكيف لو حصل تغيير كبير في سوق البرمجيات. أنا مش مؤمن إن الـsoftware هيموت، لأن العالم هيحتاج برمجيات أكتر، لكن أعتقد إن القيمة السوقية لمهندس البرمجيات التقليدي ممكن تقل مع زيادة إنتاجية الـAI وانخفاض عدد الناس المطلوبين لتنفيذ نفس العمل. لذلك خطتي مش الهروب من المجال، لكن توسيع هويتي وقدراتي بحيث مايبقاش رزقي كله متعلقًا بصناعة واحدة. ask-ahmed.aessam.chatgpt.sit…
3
414
بقيت بتجنب ردود الأفعال اول كام يوم لما حاجة تنزل و الدنيا تهدا بعدين نشوف بقي
أنا مصدوم من ردود فعل الناس من امبارح على موديل ChatGPT Astra، وكأن الهلع الأسبوعي اللي بنعيشه على الـ AI بقت فقرة بايخة لازم نعيشها عرض مستمر. السكينة بتقتل، بس بتعرف تقطع الأكل وتقطع الشوك من على الورد علشان تتبسط بيه. هلاك العالم مكنش واقف على الـ AI. تأملوا كمية الاكتشافات والعلاجات اللي قاعدين بنوصلها كل ما التقنيات دي بتتطور.
1
151
حاجات كتير من دي معدتش relevant ل roles كتير حاليا مش بقول انها مش مهمه بس في الغالب مش مهم تراجعها حتي قبل انترفيو في انترفيو اتسالت في حاجات زي حتة naive دي كانت decision tree فأكيد مش فاكر تفاصيل التفاصيل جوا بكل بساطه عشان مش بستخدمها و قلت كدا و عديت عادي
وأنا بعمل interviews ل ML engineers بمختلف سنين الخبرة بتاعتهم بيضايقني كتير ان في concepts بتقع منهم مع انها مهمة جدا وفي منها basics ومش هتاخد وقت كتير في مذاكرتها. فبما اني داخل علي round interviews جديدة هستعمل ال thread دا وأحط اي concept من دول في tweet (دي مش roadmap)
1
5
1,138
قلب إياد الموجي
1
1
252
بحب ال bare metal في اي حاجة بس مشكلته ان كل حاجة بتتخربش بسببه 🙂
The lifestyle is the vision, the work is the price
64
عندنا في دمياط إشارة واحدة في الجديدة قدام المينا لو انت كنت قريب كفايه و قلبت احمر و حاولت تقف في الغالب هتتخبط من تريلا او ميكروباص جاي وراك مش بيتعرفوا بالكلام دا و بيفكروا انك هتكسرها
هو ليه الناس في التجمع لما اشارة مرور بتقفل مش بيقفوا؟! هل اللون الاحمر في التجمع له معنى انا معرفوش
141
خناقة العربيات الصيني دي هتفضل كدا لحد متجرب واحدة 😂 هنا بتكلم علي العربيات الكهربا 🫡
هتلاقي الناس اللي عمالين يعيطو ان العربيات الصيني احسن من الألماني دول نفس الناس اللي بيقولو الموبايلات الاندرويد احسن من الـiPhone. انا والله اركب ألماني موديل ٢٠٠٠ ولا اركب زييكر و بييكر و افاتار و الهبل ده موديل السنة
2
472
السواقه في مصر اكتر حاجة تتعب القلب و الله السفر عباره عن انك بتتشاهد بمعدل ٥ مرات في الساعه
معلش ايه النياكة اللي عملتوها دي وانهو مهندس معتوه جبتوه يعملها ده فساد واصل للاجرام والاستهتار بحياة الناس واملاكهم
1
223
مشغله علي extra high و تقريبا مش بياخد حاجة من ال quota في codex
يا جماعة GPT-5.6 Luna جامد فششششخ والأجمد انه بقى من غير limit في ChatGPT المجاني
1
1
4
517