Prompts, models-ஐ version பண்றது
Prompts, model choices, அவற்றோட settings-ஐ versioned, reviewed releases-ஆ நடத்தி, ஒரு பதிலை எது உருவாக்குச்சுன்னு எப்பவும் தெரிஞ்சுக்கவும், rollback பண்ணவும் முடியும்.
Intermediate 2 · RAG builderabout 2 hours7 sections
சுருக்கமா சொன்னா
Prompts, model choices, settings-ஐ code மாதிரியே version பண்ணுங்க: ஒவ்வொரு மாற்றத்தையும் review பண்ணி, test பண்ணி, ஒவ்வொரு பதிலையும் எந்த version உருவாக்குச்சுன்னு record பண்ணி, rollback பண்ண ஒரு வழி வச்சுக்கோங்க.
இது ஏன் முக்கியம்
"போன செவ்வாய்க்கிழமை எந்த prompt live-ல இருந்துச்சு?"ங்குற கேள்விக்கு, ஒவ்வொரு AI team-க்கும் ஒரு நாள் பதில் தெரியாம போகும்; பெரும்பாலும் ஒரு incident அல்லது audit நேரத்துல. Prompts, models-ஐ code மாதிரி version பண்ணா, மாற்றங்களை test பண்ணலாம், trace பண்ணலாம், திருப்பி எடுக்கலாம்.
Sign up free to read the whole lesson
The rest of this lesson: 7 parts, video lessons, the best course, practice and a quick check. It is free, takes a few seconds and needs no card.
Accounts are for learners aged 18 and over. Under 18? The quick answer and the first part of every lesson stay open: browse lessons by topic.
Lessons on MLOps Engineer0 of 37 done
- 1Packages and virtual environments
- 2The terminal and Git
- 3Call an LLM API from code
- 4Python for production
- 5Linux, the shell and SSH
- 6Docker and Compose
- 7Kubernetes and Helm basics
- 8One cloud in depth
- 9Experiment tracking and model registry
- 10Data versioning
- 11Serving a model
- 12Monitoring and drift
- 13Serving an AI app
- 14Deploy and monitor an LLM app
- 15LLM gateways
- 16Open-weight models with vLLM
- 17GPUs and quantization
- 18LoRA, QLoRA and the GPU memory maths
- 19Inside LLM inference: prefill, decode and the KV cache
- 20Running models on many GPUs: replicas, tensor and pipeline parallelism
- 21CI/CD with GitHub Actions
- 22Environments, secrets and Terraform
- 23Regression tests for prompts
- 24Versioning prompts and models
- 25Tracing LLM apps
- 26Logs and traces for agents
- 27Test sets and evals
- 28Online evals and feedback
- 29Caching and speed
- 30Cost control
- 31Batching and model tiering
- 32Latency budgets and load testing
- 33Security and privacy
- 34Audit logs
- 35Compliance for AI systems
- 36AI risk frameworks
- 37Incident response for AI
Related
On the roadmap: MLOps Engineer
Deployment and opsIntermediate 2: RAG builderVideo lessonsPrompt registryRegression testCI/CDAudit log