Generative AI (GenAI) đang trở thành xu hướng công nghệ bùng nổ, và AWS là nền tảng hàng đầu để triển khai các ứng dụng này. Tuy nhiên, để xây dựng một ứng dụng GenAI hiệu quả, bảo mật và có thể mở rộng không phải là điều đơn giản. Rất nhiều dự án gặp thất bại do thiếu kiến thức nền tảng, bỏ qua các bước phân tích quan trọng, hoặc gặp phải các vấn đề về bảo mật và chi phí không lường trước.
Trong buổi phỏng vấn độc quyền thuộc chuỗi video “AI, Data Expert Interview” của ITviec, anh Nguyễn Đồng Thanh Hiệp (Principal Cloud Engineer tại G-asiapacific Việt Nam – GAPV & Cloud Consultant) sẽ mang đến những góc nhìn thực chiến nhất.
Từ xuất phát điểm là IT hạ tầng truyền thống, anh Hiệp sẽ chia sẻ về “bước nhảy vọt” sự nghiệp sang lĩnh vực Cloud, lộ trình chi tiết để triển khai một ứng dụng GenAI thành công trên AWS, những sai lầm cần tránh, và kinh nghiệm phát triển sự nghiệp cho bất kỳ cho các bạn IT muốn trở thành một Cloud Consultant.
Lắng nghe chia sẻ trực tiếp từ anh Hiệp trong video dưới đây:
Và sau đây, cùng ITviec recap nội dung giá trị từ buổi phỏng vấn nhé!
Từ IT hạ tầng truyền thống đến Cloud & GenAI: “Bước Nhảy Vọt” của sự nghiệp
Với nhiều kỹ sư IT hạ tầng truyền thống, việc quản lý server on-premise đầy rẫy thách thức, từ việc thức đêm khắc phục sự cố đến quy trình nâng cấp kéo dài hàng tháng, thậm chí cả năm. Anh Hiệp chia sẻ, bước ngoặt thực sự đến từ đại dịch COVID-19, khi nhu cầu làm việc từ xa tăng đột biến đã gây quá tải nghiêm trọng cho hệ thống on-premise.
Trong bối cảnh đó, anh Hiệp khẳng định rằng: “Với mình, Cloud không phải là bước chuyển mà là bước nhảy vọt, mở ra nhiều cơ hội và khả năng mới cho những IT ở hạ tầng truyền thống.”
Cloud giải quyết triệt để các “pain point” của môi trường cũ, điển hình là khả năng mở rộng hệ thống chỉ trong vài phút thay vì phải chờ đợi hàng tháng. Để làm chủ được Cloud, việc nắm vững các kiến thức nền tảng về compute, network, database và storage là yếu tố tiên quyết và quan trọng nhất.
6 giai đoạn phát triển của một ứng dụng GenAI & những rủi ro hay gặp nhất
Để xây dựng một ứng dụng GenAI hoàn chỉnh, cần tuân thủ một vòng đời phát triển gồm 6 giai đoạn.
Anh Hiệp nhấn mạnh rằng 3 giai đoạn đầu tiên là nền tảng quyết định đến 70-80% sự thành công của dự án. Việc làm sơ sài ở 3 bước này thường là nguyên nhân chính dẫn đến thất bại.
| Giai đoạn | Mục đích & Mục tiêu | Rủi ro hay gặp phải |
| Giai đoạn 1: Scoping (Xác định phạm vi) | Giúp doanh nghiệp xác định được use case, nhu cầu, đo lường mức độ khả thi của ứng dụng GenAI có phù hợp với business của công ty hay không. | Use case không rõ ràngGây lãng phí resourceMong muốn khi triển khai thực tế không khả thi |
| Giai đoạn 2 và 3: Model Selection (Lựa chọn mô hình) và Customization Model (Tùy chỉnh mô hình) | Thiết kế ứng dụng và lựa chọn model AI phù hợp với use case đã xác định ở Giai đoạn 1 – Scoping. Sau đó customize model cho phù hợp với yêu cầu của khách hàng, công ty. | Thiếu hiểu biết về limitation của model Data không đủ cho việc triển khai model hay customize model |
| Giai đoạn 4: Development & Integration (Phát triển & Tích hợp) | Xây dựng RAG, pipeline Tích hợp với API Triển khai các layer về bảo mật Filter nội dung | Sai lệch thông tin, model hallucination Model performance kém Lỗ hổng bảo mật như prompt injection attack |
| Giai đoạn 5: Deployment (Triển khai) | Đưa ứng dụng vào môi trường production | Hiệu năng kém hoặc chi phí tăng đột ngột Các lỗ hổng bảo mật bị bỏ qua trong giai đoạn phát triển, như việc cấp quyền quá rộng |
| Giai đoạn 6: Continuous Improvement (Cải tiến liên tục) | Theo dõi và tối ưu ứng dụng sau khi triển khai. | Thiếu cơ chế giám sát (Monitoring) để theo dõi hiệu năng và chỉnh sửa kịp thời Agent hoặc mô hình AI có thể không hoạt động đúng theo quy trình (workflow) đã định sẵn, dẫn đến những kết quả sai lệch hoặc không phù hợp với mục đích kinh doanh |
Làm thế nào để tối ưu chi phí cho một ứng dụng GenAI bị “đội” ngân sách?
Anh Hiệp đã chia sẻ một case study thực tế, giúp khách hàng giảm chi phí từ 8.000 USD xuống còn 700 USD/tháng cho một ứng dụng chatbot e-commerce. Nguyên nhân chính gây tăng chi phí là do khách hàng tự triển khai và bỏ qua các bước phân tích ban đầu.
Vấn đề: Khách hàng sử dụng một mô hình AI rất mạnh (Claude 3 Opus) cho tất cả các truy vấn, trong khi 80% câu hỏi chỉ là những câu FAQ đơn giản. Ngoài ra, hệ thống không có caching, dẫn đến việc gọi API liên tục cho những câu hỏi lặp lại.
Giải pháp:
◦ Chọn mô hình phù hợp cho từng loại câu hỏi.
◦ Triển khai caching để giảm số lần gọi API.
◦ Giới hạn số lượng token đầu vào/đầu ra.
◦ Tạo cảnh báo chi phí (cost alert) để theo dõi ngân sách hàng ngày và phát hiện bất thường ngay lập tức.
Case study này một lần nữa khẳng định tầm quan trọng của 3 giai đoạn đầu tiên trong vòng đời phát triển ứng dụng GenAI.
Những lỗi bảo mật thường bị bỏ qua khi phát triển ứng dụng GenAI
Bảo mật là trách nhiệm của tất cả mọi người, nhưng các developer thường bỏ qua do quá tập trung vào coding. Sau đây là những lỗi bảo mật thường gặp nhất mà anh Hiệp đã chia sẻ:
1. Cấp quyền quá rộng (Over-permissioning): Thói quen cấp “full quyền” cho developer trong môi trường phát triển là một rủi ro cực lớn. Kẻ tấn công có thể đã xâm nhập hệ thống ngay từ đầu chứ không chờ đến khi hệ thống lớn mạnh.
2. Tiêm mã nhắc (Prompt Injection): Một trong 10 lỗ hổng bảo mật phổ biến nhất theo OWASP Top 10 for LLM, xảy ra khi không xác thực dữ liệu người dùng nhập vào.
3. Rò rỉ dữ liệu (Data Leakage): Lỗi nghiêm trọng nhất, ảnh hưởng trực tiếp đến uy tín và danh dự của doanh nghiệp.
AWS hoạt động dựa trên nguyên tắc “Zero Trust” (không tin tưởng ai khi chưa xác thực) và “Least Privilege” (chỉ cấp quyền tối thiểu cần thiết) để giảm thiểu các rủi ro này.
Sai lầm lớn nhất khi dùng LangChain hoặc các orchestration framework
Sai lầm lớn nhất là lạm dụng LangChain cho những tác vụ đơn giản. Nhiều đội ngũ sử dụng framework này cho những yêu cầu chỉ cần gọi một API đơn giản, điều này vô tình kéo theo cả một framework nặng nề, không cần thiết.
• Hậu quả: Gây ảnh hưởng đến hiệu năng (performance) của ứng dụng do có quá nhiều lớp trừu tượng (abstraction layer), làm chậm hệ thống và gây khó khăn khi gỡ lỗi (debug).
• Lời khuyên: Chỉ nên sử dụng LangChain cho các quy trình (workflow) thực sự phức tạp, ví dụ như một chatbot cho khách sạn có khả năng tự động xử lý toàn bộ quy trình từ booking, thanh toán, đến sắp xếp lịch trình tham quan cho khách hàng.
Lộ trình nào cho một bạn IT muốn phát triển thành Cloud Consultant?
Để chuyển hướng sự nghiệp sang lĩnh vực Cloud đầy tiềm năng, các bạn IT từ bất kỳ mảng nào (Backend, QA, Data, IT Specialist) đều có thể bắt đầu với một lộ trình bài bản.
1. Nắm vững kiến thức nền tảng: Bắt đầu với các khái niệm cơ bản về cloud, networking, bảo mật và kiến trúc hệ thống trước khi nghĩ đến những thứ “cao xa”.
2. Học và thi chứng chỉ AWS: Các chứng chỉ như Cloud Practitioner hay Solutions Architect – Associate là bằng chứng thể hiện bạn có kiến thức nền tảng vững chắc.
3. Thực hành liên tục (Hands-on Labs): Kinh nghiệm triển khai dự án thực tế là yếu tố quan trọng nhất mà nhà tuyển dụng tìm kiếm. Đừng chỉ học lý thuyết suông.
4. Phát triển kỹ năng mềm (Soft Skills): Một Cloud Consultant giỏi cần kỹ năng giao tiếp, thuyết trình và thuyết phục khách hàng, không chỉ giỏi về kỹ thuật.
Lời kết: Mở lối sự nghiệp Cloud & GenAI – Cơ hội nằm trong tay bạn
Buổi phỏng vấn cùng anh Nguyễn Đồng Thanh Hiệp không chỉ là một buổi chia sẻ kiến thức, mà còn là một nguồn cảm hứng mạnh mẽ cho bất kỳ ai đang khao khát chinh phục lĩnh vực Cloud và GenAI. Qua những case study thực tế, những kinh nghiệm “xương máu” và một lộ trình sự nghiệp rõ ràng, ITviec tin rằng bạn đã tìm thấy câu trả lời và định hướng cho riêng mình.
Thông điệp cốt lõi từ anh Hiệp rất rõ ràng: “Thành công không đến từ việc chạy theo xu hướng, mà đến từ việc xây dựng một nền tảng vững chắc và lựa chọn con đường đúng đắn. Đừng để những rào cản về kinh nghiệm hay background ngăn cản bạn.” Với sự đồng hành của cộng đồng AWS First Cloud Journey và AWS Study Group Việt Nam – một cộng đồng lớn mạnh nay đã có hơn 46.000 thành viên, nơi luôn duy trì tinh thần hỗ trợ, “không blame, không toxic” – hành trình của bạn sẽ không bao giờ đơn độc. Như lời cam kết mà anh Hiệp đã chia sẻ từ người sáng lập cộng đồng: “Chỉ cần các bạn có đam mê, có sự kiên nhẫn thì cộng đồng luôn sẵn sàng đồng hành”.
Đây chính là thời điểm của bạn. Hãy bắt đầu ngay hôm nay!
—————————————
Bạn đã sẵn sàng hành động cho hành trình trở thành Cloud Consultant và phát triển ứng dụng GenAI? Dù bạn muốn ứng tuyển, tự học hay cần một người đồng hành, đây là những bước tiếp theo dành cho bạn:
- Tìm kiếm cơ hội việc làm: Ghé thăm ITviec.com để cập nhật công việc AI, Data và GenAI Engineer mới nhất từ các công ty hàng đầu. ➡️ Xem việc làm AI, Data mới nhất trên ITviec
- Tham gia chương trình thực chiến: Đăng ký tham gia First Cloud Journey để được hướng dẫn bài bản, xây dựng sản phẩm thực tế và kết nối với cộng đồng AI uy tín. Đợt tuyển sinh mới dự kiến bắt đầu vào giữa tháng 8. ➡️ Theo dõi thông tin tại AWS Study Group và First Cloud Journey
