Anneal & Deluge
Anneal & DelugeTTTC6544 · L6

TTTC6544 · L6 · Advanced Local SearchCarian Setempat Lanjutan

Escape the
Local Peak
Lepasi Puncak
Setempat

Simulated Annealing & Great Deluge

4-hour self-instructional module · FTSM, UKMModul arahan kendiri 4 jam · FTSM, UKM

Opening questionSoalan pembuka

Why does a greedy climber stop on the wrong hill?Mengapa pendaki tamak berhenti di bukit yang salah?

Today · 4 hoursHari ini · 4 jam

Learn, practise, apply, reflectBelajar, berlatih, guna, renung

1

EmpathiseEmpati

0:00–0:25

2

AnnealingPenyepuhlindapan

0:25–1:25

3

DelugeBanjir Besar

1:35–2:35

4

PrototypePrototaip

2:35–3:35

5

ReflectRenung

3:35–4:00

By the end you canDi akhir sesi anda boleh

ExplainTerangkan

why worse moves escape local optimamengapa langkah buruk melepasi optimum setempat

CLO1

ApplyAplikasi

SA and GD to routing and timetablingSA dan GD kepada penghalaan dan penjadualan

CLO2 · CLO3

JudgeNilai

results fairly, safely and ethicallykeputusan secara adil dan beretika

CLO4

Problem trigger · scenarioPencetus masalah · senario

0

students, 40 exam papers, 12 slots. Who gets three papers in one day?pelajar, 40 kertas peperiksaan, 12 slot. Siapa dapat tiga kertas sehari?

EmpathiseEmpati

Every number is a personSetiap angka ialah insan

StudentsPelajar

no clashes, rest between paperstiada pertindihan, rehat antara kertas

LecturersPensyarah

marking time, invigilation loadmasa memeriksa, beban pengawasan

Exam unitUnit peperiksaan

rooms, capacity, deadlinesbilik, kapasiti, tarikh akhir

DefineTakrif

Local search needs three thingsCarian setempat perlukan tiga perkara

RepresentationPerwakilan

exam → slotkertas → slot

NeighbourhoodKejiranan

move or swap one examalih atau tukar satu kertas

ObjectiveObjektif

hard × 1000 + soft penaltieskeras × 1000 + penalti lembut

Recap · hill climbingUlang kaji · pendakian bukit

Only better moves means early stopsHanya langkah lebih baik, cepat berhenti

Every accept rule today answers one question: when is worse acceptable?Setiap peraturan hari ini menjawab: bilakah lebih buruk boleh diterima?

Part 1 · Bahagian 1

Simulated
Annealing
Penyepuhlindapan
Simulasi

Heat, then cool slowlyPanaskan, sejukkan perlahan

Metallurgy analogyAnalogi metalurgi

Slow cooling finds low energyPenyejukan perlahan capai tenaga rendah

Energy = cost. Temperature = willingness to accept worse.Tenaga = kos. Suhu = kesanggupan menerima lebih buruk.

Metropolis acceptance rulePeraturan penerimaan Metropolis

P(accept) = e−Δ/T

Δ = f(new) − f(current) > 0 for a worse move (minimising)Δ = f(baharu) − f(semasa) > 0 bagi langkah lebih buruk (peminimuman)

Better moves: always accept.Langkah lebih baik: sentiasa terima.

Two dials: how bad, how hotDua tombol: seberapa buruk, seberapa panas

small ΔΔ kecil
large ΔΔ besar
high TT tinggi
≈ 0.90explore freelyteroka bebas
≈ 0.37sometimeskadangkala
low TT rendah
≈ 0.37rarelyjarang
≈ 0.00005almost neverhampir tidak

The algorithmAlgoritma

Five steps, repeatedLima langkah, berulang

1

StartMula

s, T₀

2

PerturbGanggu

s′ ∈ N(s)

3

JudgeNilai

Δ, e−Δ/T

4

CoolSejuk

T ← αT

5

StopHenti

budget or frozenbajet atau beku

Process flow · SAAliran proses · SA

One iteration, box by boxSatu lelaran, kotak demi kotak

Click to reveal each step. Orange boxes are unique to annealing.Klik untuk mendedahkan setiap langkah. Kotak jingga khusus untuk penyepuhlindapan.

Cooling schedulesJadual penyejukan

The schedule shapes the searchJadual membentuk carian

geometric T←αTgeometri T←αT linear T←T−β log c/ln(1+k) iterationlelaran

Four design choicesEmpat pilihan reka bentuk

T₀

accept ~80% of worse moves at firstterima ~80% langkah buruk pada awal

α

0.80–0.99: slower is safer0.80–0.99: lebih perlahan lebih selamat

L

moves per temperaturelangkah bagi setiap suhu

StopHenti

T_min, budget, or no gainT_min, bajet, atau tiada peningkatan

Quick checkSemakan pantas

Δ = 5 · T = 10 · r = 0.40

Accept the worse move?Terima langkah lebih buruk?

e−0.5 = 0.607 > 0.40

Yes, accept.Ya, terima.

Checkpoint A · 12 min · individualTitik Semak A · 12 min · individu

Can you tune a temperature?Bolehkah anda menala suhu?

8 items · calculator allowed · answers lock8 item · kalkulator dibenarkan · jawapan dikunci

FactFakta

0

years between the Metropolis rule (1953) and its use for optimisation (1983)tahun antara peraturan Metropolis (1953) dan penggunaannya untuk pengoptimuman (1983)

Milestones · Simulated AnnealingTonggak · Penyepuhlindapan Simulasi

From molecules to quantum chipsDaripada molekul ke cip kuantum

Now · annealing in hardwareTerkini · penyepuhlindapan dalam perkakasan

Annealing left the textbookPenyepuhlindapan keluar dari buku teks

QuantumKuantum

tunnelling instead of heatpenerowongan, bukan haba

DigitalDigital

annealers built into chipspenyepuhlindap dalam cip

Probabilistic bitsBit kebarangkalian

Ising machines, low energymesin Ising, tenaga rendah

Lab 1 · 20 minMakmal 1 · 20 min

Landscape Lab: make SA escapeMakmal Landskap: bantu SA melepasi

Guide §2.9 · find the T₀ and α that reach the tall spikePanduan §2.9 · cari T₀ dan α yang mencapai puncak tinggi

Part 2 · Bahagian 2

Great
Deluge
Banjir
Besar

Let the water rise. Keep your feet dry.Biar air naik. Kaki tetap kering.

Dueck, 1993Dueck, 1993

Walk anywhere above the waterJalan ke mana sahaja di atas air

The level rises steadily. Low ground disappears. You end on high ground.Paras naik secara tetap. Tanah rendah hilang. Anda berakhir di tanah tinggi.

Milestones · Great DelugeTonggak · Banjir Besar

A flood that keeps on risingBanjir yang terus naik

Acceptance rule (minimising)Peraturan penerimaan (peminimuman)

f(s′) ≤ f(s) or f(s′) ≤ B

B ← B − ΔB

No randomness in the decision. The level does the work.Tiada unsur rawak dalam keputusan. Paras yang bekerja.

Process flow · GDAliran proses · GD

Same loop, a different gateGelung sama, pintu berbeza

Click to reveal. Blue boxes are unique to the deluge.Klik untuk mendedahkan. Kotak biru khusus untuk banjir besar.

The one knobSatu tombol

ΔB = (f₀ − f*) / N

Give it a time budget N and a target f*. It plans its own descent.Beri bajet masa N dan sasaran f*. Ia merancang penurunannya sendiri.

Same goal, different gatekeeperMatlamat sama, penjaga pintu berbeza

SA

Probabilistic gatePintu kebarangkalian

Tune T₀, α, LTala T₀, α, L

vs

GD

Deterministic levelParas berketentuan

Set N and f*Tetapkan N dan f*

Spot the differenceCari perbezaan

Same skeleton, three different boxesRangka sama, tiga kotak berbeza

SA

GD

Same offers, two gatekeepersTawaran sama, dua penjaga pintu

Where they agree, where they splitDi mana sepakat, di mana berpisah

Gold columns: SA gambled on a worse move; GD refused.Lajur emas: SA berjudi pada langkah buruk; GD menolak.

Checkpoint B · 12 min · individualTitik Semak B · 12 min · individu

Will your level drown?Adakah paras anda akan tenggelam?

8 items · calculator allowed · answers lock8 item · kalkulator dibenarkan · jawapan dikunci

The threshold familyKeluarga ambang

90

TA

Δ under thresholdΔ bawah ambang

93

GD · RRT

level; record + Dparas; rekod + D

07

Extended GDGD Lanjutan

reheats levelparas naik semula

08

Non-linear GDGD Tak Linear

curved decaysusutan melengkung

17

LAHC

compare L steps backbanding L langkah lalu

Close to homeDekat dengan kita

Timetabling research at UKM uses deluge-style acceptance.Penyelidikan penjadualan di UKM menggunakan penerimaan gaya banjir.

e.g. Turabieh & Abdullah, Omega, 2011

Lab 2 · 25 minMakmal 2 · 25 min

Route Lab: 20 towns in the Klang ValleyMakmal Laluan: 20 bandar di Lembah Klang

Guide §3.9 · race HC, SA and GD on the same budgetPanduan §3.9 · lumba HC, SA dan GD dengan bajet sama

Part 3 · Bahagian 3

Prototype
& Test
Prototaip
& Uji

Build it without code. Test it honestly.Bina tanpa kod. Uji dengan jujur.

Which one, when?Yang mana, bila?

Application mapPeta aplikasi

Lab 4 · 20 minMakmal 4 · 20 min

Emulation Arena: break them, then fix themArena Emulasi: rosakkan, kemudian baiki

Guide §4.1 · route, timetable, tuning · 10 seeds eachPanduan §4.1 · laluan, jadual, penalaan · 10 benih setiap satu

Value · Amanah (integrity)Nilai · Amanah

One lucky run is an anecdote. Report every seed.Satu larian bertuah ialah anekdot. Laporkan setiap benih.

Low-code toolkitKit alat kod rendah

No programming requiredTiada pengaturcaraan diperlukan

SimulatorsSimulator

in this guidedalam panduan ini

SpreadsheetHamparan

SA in 10 formulasSA dalam 10 formula

AI chatSembang AI

explain, trace, critiqueterang, surih, kritik

Notebook AIAI buku nota

read papers with sourcesbaca kertas dengan sumber

Safety first · PDPA & AIGEKeselamatan dahulu · PDPA & AIGE

Four rules before you pasteEmpat peraturan sebelum menampal

AnonymiseNyahnama

MinimiseMinimumkan

VerifySahkan

Human decidesManusia memutuskan

Value · Adil (fairness)Nilai · Adil

The weights in your objective decide who carries the cost.Pemberat dalam objektif anda menentukan siapa menanggung kos.

Real worldDunia sebenar

Where these algorithms work dailyDi mana algoritma ini bekerja setiap hari

Chip layoutSusun atur cip

TimetablingPenjadualan

Vehicle routingPenghalaan kenderaan

Crew rosteringJadual giliran kru

Protein & moleculesProtein & molekul

ML tuningPenalaan ML

Frontier · 2024–2026Barisan hadapan · 2024–2026

LLMs now write the heuristicsLLM kini menulis heuristik

FunSearch

evolves programsmengevolusi program

EoH · ReEvo

evolves heuristicsmengevolusi heuristik

LLaMEA

generates metaheuristicsmenjana metaheuristik

Group challenge · 30 minCabaran kumpulan · 30 min

You are the consultancyAnda ialah firma perunding

A · MedVan

route · flood-day budgetlaluan · bajet hari banjir

B · Exam UnitUnit Peperiksaan

timetable · beat HCjadual · kalahkan HC

C · Sensor LabMakmal Sensor

tuning · fixes can hurtpenalaan · pembaikan berisiko

Reflect · exit ticketRenung · tiket keluar

3

things you learnedperkara dipelajari

2

places you'd apply themtempat untuk diguna

1

question still opensoalan masih terbuka

Heat, then cool slowly.Panaskan, sejukkan perlahan.

Let the water rise.Biar air naik.

Next week · L7 Tabu SearchMinggu depan · L7 Carian Tabu

→/Space nextseterusnya · ← backkembali · N notesnota · F full screenskrin penuh · G guidepanduan · swipe on phonesleret pada telefon