Performans, toza kod va keyingi qadamlar: AI/ML yo'l xaritasi

Oxirgi bob ikki qismdan iborat. Birinchisi — performans: kod sekin bo'lsa, qanday qilib sababini topish va tuzatish. Ikkinchisi — yo'l xaritasi: bu kursdan keyin ML Engineering va AI Engineering'ga qanday o'tish, nimani, qaysi tartibda o'rganish va o'zingizni qanday tekshirish.

▶ Video dars· PyCon 2018· 28:51· ingliz tilida

1. Optimallashtirishning birinchi qoidasi#

"Premature optimization is the root of all evil." — Donald Knuth

Ko'p dasturchilar kodni "tezroq bo'lsin" deb murakkablashtiradi — va ko'pincha noto'g'ri joyni. Dastur vaqtining 90% i odatda kodning 10% ida o'tadi. O'sha 10% ni taxmin bilan topib bo'lmaydi — o'lchash kerak.

1. To'g'ri ishlashini ta'minlang

   Testlar bilan (16-bob). Tez, lekin noto'g'ri kod — foydasiz.

2. Yetarlicha tezmi?

   Kun bir marta ishlaydigan 3 soniyalik skript — optimallashtirish shart emas.

3. O'lchang

   Profiler bilan qayerda vaqt ketayotganini toping.

4. Eng katta muammoni tuzating

   Odatda algoritm yoki ma'lumot tuzilmasi — "mikro-optimallashtirish" emas.

5. Qayta o'lchang

   Yaxshilanish haqiqatan bo'ldimi? Testlar hali o'tyaptimi?

2. O'lchash vositalari#

timeit — kichik kod bo'laklarini solishtirish#

import timeit
 
setup = "items = list(range(100_000)); s = set(items); q = list(range(0, 200_000, 20))"
timeit.timeit("sum(1 for x in q if x in items)", setup, number=1)   # ~2.16 s
timeit.timeit("sum(1 for x in q if x in s)", setup, number=1)       # ~0.0005 s

Jupyter'da: %timeit expr (22-bob). timeit kodni ko'p marta ishlatib, tasodifiy shovqinni kamaytiradi.

cProfile — butun dastur qayerda vaqt sarflaydi#

Mana real misol — matn korpusidan lug'at quruvchi kod (6-bob amaliyotiga o'xshash):

# vocab.py
import re
from collections import Counter
 
 
def tokenize(text):
    return re.findall(r"\w+", text.lower())
 
 
def build_vocab(docs, stop_words):
    counts = Counter()
    for doc in docs:
        for tok in tokenize(doc):
            if tok not in stop_words:
                counts[tok] += 1
    return counts
 
 
def main():
    docs = ["Python ML uchun eng mashhur til va u juda qulay"] * 20000
    stop_words = ["va", "u", "uchun", "eng", "juda"] * 200      # ro'yxat
    build_vocab(docs, stop_words)
 
 
if __name__ == "__main__":
    main()

python -m cProfile -s cumtime vocab.py

         120139 function calls (120135 primitive calls) in 0.374 seconds
 
   Ordered by: cumulative time
 
   ncalls  tottime  percall  cumtime  percall filename:lineno(function)
        1    0.000    0.000    0.374    0.374 vocab.py:15(main)
        1    0.344    0.344    0.374    0.374 vocab.py:7(build_vocab)
    20000    0.004    0.000    0.030    0.000 vocab.py:4(tokenize)
    20000    0.017    0.000    0.017    0.000 {method 'findall' of 're.Pattern' objects}

O'qish: tottime — funksiyaning o'zida o'tgan vaqt (chaqirgan funksiyalarisiz), cumtime — hammasi bilan. build_vocabning o'zi 0.344 s — regex (tokenize) atigi 0.030 s. Demak muammo regex'da emas, siklning o'zida — aniqrog'i tok not in stop_words qatorida: stop_words — 1000 elementli ro'yxat, har tekshiruv O(n).

Bitta o'zgarish:

stop_words = set(["va", "u", "uchun", "eng", "juda"] * 200)    # set — O(1) tekshiruv

         120139 function calls (120135 primitive calls) in 0.044 seconds

8.5 baravar tezroq — bitta so'z bilan. Regex'ni "optimallashtirishga" vaqt sarflaganingizda, natija deyarli o'zgarmas edi. Profiler bo'lmasa, buni taxmin qilish qiyin.

Vizual tahlil uchun: uv add --dev snakeviz → python -m cProfile -o prof.out vocab.py → snakeviz prof.out. Qatorma-qator o'lchash uchun — line_profiler; ishlab turgan jarayonni tekshirish uchun — py-spy (kodni o'zgartirmasdan).

tracemalloc — xotira#

import tracemalloc
 
tracemalloc.start()
data = [i * i for i in range(1_000_000)]
current, peak = tracemalloc.get_traced_memory()
print(f"joriy: {current / 1e6:.1f} MB, cho'qqi: {peak / 1e6:.1f} MB")    # ~40 MB
tracemalloc.stop()

Million son — 40 MB (2-bob: har int — obyekt). NumPy'da — 8 MB. Generator bilan (7-bob) — deyarli nol.

3. Algoritmik murakkablik — eng katta yutuqlar shu yerda#

Big-O — ma'lumot hajmi oshganda vaqt qanday o'sishi. Aniq soniyalar emas, o'sish tezligi:

Python tuzilmalari amallarining narxi (5–6-boblar xulosasi):

Eng ko'p uchraydigan O(n²) tuzoqlari:

# 1. Siklda ro'yxatdan qidirish
for user in users:                    # n
    if user.id in banned_ids_list:    # × n  → O(n²)
        ...
banned = set(banned_ids_list)         # ✅ bir marta O(n), keyin har tekshiruv O(1)
 
# 2. Siklda satr yig'ish (3-bob)
result = ""
for part in parts:
    result += part                    # har safar yangi satr — 100k bo'lakda ~10× sekinroq
result = "".join(parts)               # ✅
 
# 3. Siklda pop(0)
while queue:
    item = queue.pop(0)               # O(n) har safar
queue = deque(queue)                  # ✅ popleft() — O(1)
 
# 4. Ikki ro'yxatni "birlashtirish" ichma-ich sikl bilan
for order in orders:
    for user in users:
        if order.user_id == user.id: ...
users_by_id = {u.id: u for u in users}    # ✅ lug'at indeksi, keyin O(1) qidiruv

Oxirgisi — Pandas'dagi merge (20-bob) ichkarida aynan shunday ishlaydi.

4. Tezlashtirish usullari — samaradorlik tartibida#

Keshlash#

from functools import lru_cache
 
 
@lru_cache(maxsize=10_000)
def embed(text: str) -> tuple[float, ...]:     # tuple — hashlanadi va o'zgarmas
    return tuple(call_embedding_api(text))     # bir xil matn uchun API qayta chaqirilmaydi

LLM ilovalarida keshlash — tezlik va pul: bir xil savollar uchun javob keshi (14-bobdagi disk keshi), embedding keshi, prompt caching (23-bob).

Python'dan tashqariga chiqish#

Profil ko'rsatsa-yu, sof Python sikli baribir sekin bo'lsa:

• NumPy/Pandas'ga o'tkazing (deyarli har doim birinchi variant);
• Polars — Pandas'ga o'xshash, Rust'da yozilgan, ko'p hollarda 5–20× tez;
• Numba — @njit dekoratori bilan sonli funksiyani mashina kodiga kompilyatsiya;
• Cython / Rust (PyO3) — eng og'ir holatlar uchun.

ML'da esa og'ir hisob baribir GPU'da (PyTorch) bo'ladi — Python faqat boshqaradi (1-bob, "yelim til").

5. Professional kod — o'zingizni tekshiring#

Kod faqat ishlashi kerak emas — uni boshqalar (va 6 oydan keyingi siz) o'qishi, o'zgartirishi va unga ishonishi kerak. Har bir loyihangizni shu ro'yxat bo'yicha tekshiring:

6. Kurs bo'yicha o'z-o'zini tekshirish#

Quyidagi savollarga kodni ochmasdan javob bera olsangiz — Python poydevoringiz ML/AI uchun tayyor:

1. Obyektlar va xotira

   b = a dan keyin a.append(1) nega bni ham o'zgartiradi, a = a + [1] esa yo'q? Mutable default argument nega xavfli?

2. To'plamlar

   Million elementli ro'yxatda x in lst va to'plamda x in s farqi nima va nega? Qaysi tiplar lug'at kaliti bo'la oladi?

3. Iteratorlar

   Generator ikkinchi marta aylanilganda nima bo'ladi? 50 GB faylni xotiraga sig'dirmasdan qanday qayta ishlaysiz?

4. Funksiyalar

   Closure nima va sikldagi lambda'lar nega oxirgi qiymatni "ko'radi"? Dekorator qanday yoziladi?

5. OOP

   __eq__ yozilsa __hash__ga nima bo'ladi? super().__init__() nega kerak? Dataclass va Pydantic qachon?

6. Xatolar

   raise ... from e nima beradi? Qaysi HTTP xatolarida qayta urinish kerak?

7. Parallellik

   GIL nima va qachon threadlar yordam beradi? 1000 ta LLM so'rovini limit bilan qanday parallel yuborasiz?

8. NumPy/Pandas

   Broadcasting qoidasi? View va copy farqi? df[mask]['col'] = x nega ishlamaydi?

9. ML ish jarayoni

   Data leakage nima, qanday oldini olasiz? Nega test qismiga faqat bir marta qaraladi?

10. LLM

    stop_reason qiymatlari nimani bildiradi? Tool use sikli qanday ishlaydi? Prompt caching qachon ishlamaydi?

Javob bera olmagan savolingiz bo'lsa — tegishli bobga qayting va misollarni REPL'da qayta yozib ko'ring.

7. Yo'l xaritasi: bu kursdan keyin#

Python — poydevor. Keyingi qadamlar yo'nalishingizga qarab:

ML Engineering yo'li#

AI Engineering yo'li#

aidoc.uz'dagi boshqa kitoblar shu yo'lni davom ettiradi: "AI Engineering — 0 dan boshlab", "OpenAI API bilan ishlash", "AI agentlar qurish" va "AI agentlarni amaliyotda qurish". Endi ulardagi har bir kod misolini to'liq tushunasiz.

8. Yakuniy loyiha#

O'rganganlaringizni birlashtiruvchi loyiha — portfoliongizning birinchi jiddiy ishi bo'lishi mumkin:

9. Xayrlashuv o'rniga#

Dasturlashni o'rganishning yagona yo'li — dasturlash. Bu kursdagi har bir bob — xarita, lekin yo'lni oyog'ingiz bilan bosib o'tishingiz kerak: mashqlarni yeching, xato qiling, traceback'larni o'qing, profiler bilan o'lchang, testlar yozing, loyihalar quring.

Ikki maslahat:

• Har kuni oz-ozdan kod yozing. Haftada bir marta 7 soat emas — har kuni 1 soat. Ko'nikma takrorlash bilan mustahkamlanadi.
• AI yordamchilardan to'g'ri foydalaning. Ular kod yozishni tezlashtiradi, lekin siz kodni tushunishingiz va tekshira olishingiz kerak. Bu kurs aynan shuning uchun: AI yozgan kodda mutable default, data leakage, except: pass yoki prompt injection teshigini ko'ra oladigan muhandis — AI davrining eng qadrli mutaxassisi.

Omad! 🚀