โดย Jawad
ในบล็อกนี้เราจะสาธิตวิธีการปรับใช้โมเดลที่ได้รับการฝึกอบรมล่วงหน้าหลายรายการบน Alibaba Cloud ECS เดียว เราจะใช้โมเดลที่ได้รับการฝึกล่วงหน้าซึ่งมีอยู่บน Hugging face และ Gradio เพื่อโต้ตอบกับโมเดล แนวทางนี้จัดให้มีการปรับใช้โค้ดต่ำสำหรับโมเดล ML ที่มีประโยชน์สำหรับการสร้างต้นแบบและการพิสูจน์แนวคิด สำหรับวัตถุประสงค์ในการสาธิต เราจะยกตัวอย่างการใช้งานสองตัวอย่าง คือ ตัวอย่างหนึ่งเกี่ยวข้องกับการประมวลผลภาษาธรรมชาติ (NLP) และตัวอย่างอื่น ๆ ที่เกี่ยวข้องกับคอมพิวเตอร์วิทัศน์ ก่อนจะไปต่อ เรามาพูดถึง Gradio และ Hugging face กันก่อน
Gradio คือไลบรารี Python ที่ใช้สร้าง ปรับแต่ง และแชร์การสาธิตบนเว็บสำหรับโมเดลการเรียนรู้ของเครื่องใดๆ ก็ตาม สิ่งนี้ทำให้เราสามารถโต้ตอบกับโมเดลได้โดยใช้เว็บเบราว์เซอร์
Hugging Face เป็นองค์กรวิจัย AI ที่ให้สิทธิ์เข้าถึงเครื่องมือโอเพนซอร์สและห้องสมุดสำหรับ การประมวลผลภาษาธรรมชาติ (NLP) และงานคอมพิวเตอร์วิทัศน์ หนึ่งในการสร้างสรรค์ที่ได้รับความนิยมมากที่สุดคือไลบรารี "Transformers" ซึ่งมีโมเดลที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการใช้งานที่หลากหลาย เช่น การจัดหมวดหมู่ข้อความ การแปลภาษา การตอบคำถาม และการสร้างข้อความ การจัดหมวดหมู่รูปภาพ ฯลฯ
การใช้ Hugging face Transformer และ Gradio ร่วมกันทำให้โมเดล AI เข้าถึงและใช้งานได้มากขึ้นสำหรับผู้ชมในวงกว้าง ตั้งแต่นักพัฒนาและนักวิจัยไปจนถึงผู้ใช้ปลายทางที่อาจไม่มีความเชี่ยวชาญทางเทคนิคในการเรียนรู้ของเครื่อง
โมเดลที่ฝึกไว้ล่วงหน้าที่ใช้ Hugging face คือ
เป็นที่น่าสังเกตว่าทั้งสองรุ่นนี้ถูกใช้เป็นตัวอย่าง ผู้อ่านสามารถลอง Hugging face รุ่นอื่นๆ ในลักษณะที่คล้ายกันไม่มากก็น้อยได้
ให้เราหารือเกี่ยวกับรายละเอียดการใช้อินสแตนซ์ ECS สำหรับการปรับใช้ในลักษณะทีละขั้นตอน
1. หมุนอินสแตนซ์ Alibaba Cloud ECS: ข้อมูลจำเพาะของอินสแตนซ์ขึ้นอยู่กับโมเดล ML สำหรับตัวอย่างของเราจะใช้ข้อกำหนดต่อไปนี้
Fig-1: ECS configuration
2. กำลังเตรียมการตั้งค่า (จำเป็นเพียงครั้งเดียว)
เมื่ออินสแตนซ์ ECS เริ่มทำงาน ให้เข้าสู่ระบบอินสแตนซ์ ใช้พรอมต์คำสั่ง
apt install python3-venv -y
python3 -m venv ai
Iii. เปิดใช้งานสภาพแวดล้อมโดยใช้: source ai/bin/activate
pip install transformers
pip install gradio
pip install torch
pip install sentencepiece
pip install sacremoses
3. โค้ด Python สำหรับการใช้โมเดลที่ผ่านการฝึกอบรมมาแล้ว
ก) โมเดล NLP: สร้างไฟล์ Python “nlp.py” โดยพิมพ์ nano nlp.py ที่เทอร์มินัล เมื่อตัวแก้ไขเปิดขึ้น ให้คัดลอกและวางโค้ดต่อไปนี้
from transformers import pipeline
import gradio as gr
pipe = pipeline("text-classification", model="distilbert-base-uncased-finetuned-sst-2-english")
demo = gr.Interface.from_pipeline(pipe)
demo.launch(server_name="0.0.0.0", server_port=8000)
Fig-2 แสดงโค้ดภายในตัวแก้ไข nano บันทึกไฟล์โดยกด Ctrl+x เลือก “Y” แล้วกด Enter
Fig-2: โค้ดสำหรับการวิเคราะห์ความเชื่อมั่น
b) โมเดลการจำแนกประเภทรูปภาพ
สร้างไฟล์ Python อีกไฟล์โดยใช้ nano classify.py
และแก้ไขโค้ดโดยการเปลี่ยนประเภทโมเดล ชื่อ หัวเรื่อง และหมายเลขพอร์ต ดังแสดงใน Fig-3 ออกและบันทึกไฟล์
Fig-3: โค้ดสำหรับการจำแนกภาพ
4. เรียกใช้โมเดล
ในการเรียกใช้โมเดลเหล่านี้ เราจำเป็นต้องเปิดเทอร์มินัลสองเทอร์มินัลบนอินสแตนซ์ Alibaba Cloud ECS ดังที่ให้ไว้ใน Fig-4 ตรวจสอบให้แน่ใจว่าเปิดใช้งานสภาพแวดล้อมเสมือนของ Python แล้ว ดำเนินการต่อไปนี้ที่ Alibaba Cloud ECS CLI บน
Fig-4: การรันทั้งสองรุ่นบนอินสแตนซ์ ECS เดียวกันโดยใช้สองเทอร์มินัล
5. โต้ตอบกับโมเดล
หากต้องการใช้โมเดลที่ใช้งาน ให้เปิดเบราว์เซอร์บนพีซีของคุณ และใช้ที่อยู่ IP สาธารณะของอินสแตนซ์ ECS ของคุณด้วยหมายเลขพอร์ต คั่นด้วยเครื่องหมายทวิภาค (:) ดังแสดงด้านล่างใน Fig-5 และ Fig-6
แทนที่จะใช้ที่อยู่ IP สาธารณะของ ECS เรากำลังใช้ชื่อโดเมน คุณสามารถเลือกดำเนินการดังกล่าวได้ หากคุณมีชื่อโดเมนโดยการเชื่อมโยงชื่อดังกล่าวกับ IP สาธารณะของอินสแตนซ์ ECS ของคุณ
เปิดเบราว์เซอร์ที่สอง และเปลี่ยนหมายเลขพอร์ต (9000) เพื่อโต้ตอบกับโมเดลคอมพิวเตอร์วิทัศน์ อัปโหลดภาพและดูผลการจำแนกประเภท
ลองใช้รูปภาพต่างๆ และดูการตอบสนองของโมเดล
บทความต้นฉบับเป็นภาษาอังกฤษ ดูบทความต้นฉบับที่นี่
Triển khai các mô hình tiền đào tạo trên Alibaba Cloud ECS bằng cách sử dụng Transformer và Gradio
Transformers와 Gradio를 사용하여 Alibaba Cloud ECS에 사전 학습된 모델 배포하기
80 posts | 3 followers
Follow80 posts | 3 followers
FollowTop-performance foundation models from Alibaba Cloud
Learn MoreAccelerate innovation with generative AI to create new business success
Learn MoreAccelerate AI-driven business and AI model training and inference with Alibaba Cloud GPU technology
Learn MoreA platform that provides enterprise-level data modeling services based on machine learning algorithms to quickly meet your needs for data-driven operations.
Learn MoreMore Posts by Regional Content Hub