EVALUASI PKP DR ROBIANA MODJO MKES EVALUASI PROGRAM

EVALUASI PKP DR. ROBIANA MODJO, MKES

EVALUASI PROGRAM § Tujuan: memperbaiki program § Evaluasi: “pemeriksaan sistematik dan penilaian tentang keutamaan suatu inisiatif dan pengaruhnya, agar menghasilkan informasi yang dapat digunakan oleh mereka yang berminat dalam hal perbaikan atau efektivitasnya”

Manfaat § mempengaruhi pembuat keputusan dan penyumbang dana, agar program dapat berlanjut (sustainable) § membangun kapasitas kelompok masyarakat dan melibatkannya § memberitahu apa yang dapat bekerja dan yang tak dapat bekerja, dibanding dengan kelompok-kelompok masyarakat yang lain

Enam langkah evaluasi program 1. Melibatkan stakeholders 2. Menggambarkan atau merencanakan program (3 komponen gambaran program: stadium program, pernyataan masalah, model logic). Stadium program minimal 3 langkah : memahami masalah dan kebutuhan promosi kesehatan (melalui penilaian risiko kesehatan atau survai lain), perencanaan dan implementasi 3. Fokus pada evaluasi 4. Kumpulkan bukti yang dapat dipercaya (credible evidence) 5. Memberikan alasan bagi kesimpulan-kesimpulan 6. Memastikan bahwa pelajaran yang dipelajari digunakan dibagi (share lessons learned)

Perbedaan evaluasi program dari evaluasi riset dasar Evaluasi program Evaluasi riset dasar § Evaluasi dikendalikan oleh stakeholders § Standar termasuk kegunaan, feasibilitas, akurasi, kewajaran (fairness) § Menilai kegunaan dan kepentingan § Holistik dan fleksibel, dapat dirubah § Evaluasi tentang apa yang sedang berjalan Jangkauan (scope) luas agar integratif § Pertimbangan tergantung nilai –nilai yang dinyatakan oleh stakeholders § Penggunaan data wajib untuk perbaikan program § Lebih menekankan asosiasi § Lebih terkendali ketat § Dibatasi oleh timeframe yang spesifik. Lebih sempit § Evaluasi lebih oleh peneliti sesuasi design § Lebih menekankan validitas external dan internal § Lebih bebas nilai § Lebih untuk penambahan pengetahuan

EVALUASI DALAM PROMOSI KESEHATAN DI TEMPAT KERJA § MENILAI “OBJECT INTEREST” (PROGRAM) terhadap PENCAPAIAN NILAI STANDAR § Object Interest misalnya : § Meningkatakan PENGETAHUAN § Perubahan perilaku § Penurunan risiko § Nilai Standar misalnya § 25% pekerja stop rokok § 80% penderita taat program penurunan tensi § 10% tiap bulan peserta fitnes § Isu penting § PKP meningkatkan kesehatan pekerja § Cost efektif

TUJUAN EVALUASI § Bisnis: Dana Program PKP efisien & Efektif? § Accountability: Tujuan PKP tercapai? § Ilmu & Aplikasi: § Informasi bagi pengusaha & pekerja dalam menentukan kebijakan (mis perubahan gaya hidup & pemeliharaan kesehatan)

METODA EVALUASI § Variasi: § Sederhana & murah § kompleks & Mahal, tergampang § Tujuan Program, Mis : § Meningkatkan Kesadaran § Perubahan Perilaku § Penurunan risiko

METODA EVALUASI. . . lanjut § Dasar perbandingan, Mis : § Perubahan dalam jangka waktu tertentu. § Perubahan antar kelompok § Perubahan berdasarkan STD/target § Sumber Daya yang ada, Mis : § Pencatatan Sederhana § Statistik § Epidemiologi

TINGKAT EVALUASI Berdasarkan level/tingkat (tradisional) § Evaluasi Proses/formatif § Fokus : - cara melaksanakan program § cara menilai kualitas & kelayakan praktis, Mis: § Jumlah brosur yang didistribusi § Kualitas informasi mis. Tentang program fitness § Level instruktur dan atau cara mengajar

TINGKAT EVALUASI § EVALUASI PENCAPAIAN/OUTPUT Fokus : menilai efek kegiatan program, Mis § Perubahan pengetahuan, sikap, perilaku § Profil faktor risiko § penurunan morbiditas & mortalitas muda

TINGKAT EVALUASI…lanjut § Berdasarkan basis pengukuran § § § § § Efek jangka pendek Jumlah kursus yang diminta Jumlah sesi yang diikuti Peningkatan pengetahuan factor risiko PJK Peningkatan keyakinan atas pencegahan penyakit kronik Peningkatan disiplin pengendalian tensi Peningkatan peserta senam aerobik Penurunan pencegahan rokok Penurunan konsumsi lemak

TINGKAT EVALUASI…lanjut Efek jangka panjang (tidak langsung) § Produktifitas § Absenteisme (Absence Rate) § Claim biaya asuransi § Incidence Rate & Severity Rate § Morbiditas & Mortalitas PJK

Contoh Standar Pengukuran dari Bureau of Labor Statistics (BLS) 1. Incidence Rate Measures the number of absences per 100 employees during a given time period 2. Absence Rate Measures the percent of time lost due to absenteisme per 100 employees 3. Severity Rate Measures of the average time that an absent employee loses during a given periode

Incidence Rate Number of workers absent ------------------ X 100 Total employees § Hitunglah, suatu perusahaan mempunyai jumlah karyawan 250 orang, jika dalam satu minggu ada 15 karyawan yg tidak masuk (absent) berapakah Incidence rate-nya?

Incidence rate: 15 x 100 = 6% 250 Intepretasi: Setiap 100 karyawan pada perusahaan ini, dalam seminggu ada 6 orang yang absent

Absence Rate: Number of hours absent ----------------------- X 100 Number of hours usually worked Jika ke 250 karyawan pada perusahaan tsb. Bekerja selama 40 jam setiap minggunya, sementara ke 15 karyawan masing 2 tidak masuk selama 3 hari, hitunglah berapa absence rate perusahaan tsb!

15 (3 x 8 jam) Absence rate = ------------ X 100 240 x 40 jam = 3, 6% INTEPRETASI Menjelaskan; ada sekitar 3, 6% dari jam kerja hilang karena karyawan absen/tdk masuk

Severity rate: Average number of hours lost by absent employee ---------------------------------- X 100 Average number of hours usually worked Jika 3 karyawan di atas sakit selama 8 jam, maka berapa severity rate-nya?

Severity rate: 3 x 8 24 ------ X 100 = 20% 3 x 40 120 INTEPRETASI 20% of the scheduled time was lost!

STANDAR OF ACCEPTABILITY Standar Normatif § Pencapaian pengalaman industri lain. § Misalnya : tiap 6 bulan peserta fitness meningkat 10% (setelah program PKP) Standar Historical § Pencapaian intern periode lalu § Misalnya : Tahun lalu perokok menurun 10% § Standar tahun ini/nilai standar: 10%

STANDAR OF ACCEPTABILITY lanjutan… Standar teoritis § Pencapaian penelitian dengan intrervensi di lab/klinis § Misalnya : di UI di LKKK strategi pendidikan untuk meningkatkan program fitness partisipasi fitness mahasiswa 40 % Standar pembanding : 40 % § Peningkatan perbedaan setting, mahasiswa tidak sama pekerja

STANDAR OF ACCEPTABILITY lanjutan… Standar Absolut § Level tertinggi yang dapat dicapai § Tidak realistis. Misalnya perokok menurun 100% Standar Kompromi § Pertimbangan atas kombinasi nilai standar lain § Misalnya : standar kompromi penurunan jumlah perokok : 35% § Atas dasar : - Standar normative 30% - Standar historical 20% - Standar teoritis 40% - Standar absolut 100%

DISAIN EVALUASI § § Keterbatasan disain PKP yang ada : Disain penelitian: logis /akurat (kerangka konsep) Populasi kontrol / pembanding sulit didapat Gagal menilai perubahan perilaku (hanya pengetahuan/sikap) § Jangka pendek sulit mendapatkan jawaban pasti § Lain-lain : praktis/aplikasi, etika, dana § Misalnya : § sulit mendapatkan populasi secara random/acak karena isu informed consent & atas dasar sukarela § hampir tidak ada kelompok kontrol yang ideal

DISAIN EVALUASI lanjutan… Kompromi pemilihan disain: § Pertimbangkan keterbatasan disain § Pertimbangkan keterbatasan organisasi (ekonomis) § Sesuaikan level penilaian dengan tujuan program, S. D yang ada § Memilih dari bab contoh disain § Relasi perusahaan & pekerja § Benefit pekerja § Pajak (potongan) § Investasi kesehatan Pekerja

DISAIN EVALUASI lanjutan… § § § THE HISTORICAL, RECORD KEEPING APPROACH THE INVENTORY APPROACH COMPARATIVE APPROACH THE CONTROLLED COMPARISON (QUASIEXPERIMENTAL APPROACH) THE CONTROLLED EXPERIMENTAL APPROACH THE FULL BLOWN EVALUATIVE RESEARCH PROJECT

Types of Evaluation Design in Workers’ Health Promotion Program Vv v .

The Historical, Record Keeping Approach § Membuat prosedur pencatatan data akumulatif § Data dalam tabel / grafik kumulatif § Memperlihatkan program pelaksanaan program

THE INVENTORY APPROACH § § § Tentukan : - Waktu penilaian berkala - Target pencapaian - Cara survai / Observasi Contoh 1 Program Kontrol Hipertensi di Gimbels & Bloomingdale, tahun 1973 3000 pekerja hipertensi , 2220 diikutkan dalam program § § § Tim a perawat protocol penanganan biaya konsultasi, lab, obat beban perusahaan data ekonomis : Biaya pengobatan & perawatan, absenteisme menurun tiap tahun data medis : - status tensi menurun tiap bulan - kasus rawat inap menurun tiap trahun - mortalitas 5 tahun menurun tiap 5 tahun

THE INVENTORY APPROACH § § § § Contoh 2 Program penurunan BB di perusahaan minyak Texas Pendidikan 8 sesi @ 1 jam/mg oleh ahli gizi yang ahli prilaku kuesioner data awal - Diet & prilaku BB, TB, trisep skin fold Contoh 3 Program stop rokok the Campbell soup company Klas stop rokok oleh P. T. Data periodic 1. 5, 3, 6, 12 bulan dicatat oleh S. D. M internal - evaluasi oleh Perusahaan F. U. 6 bulan 25% masih patuh

COMPARATIVE APPROACH § § § § Menggunakan data & format eks sebagai pembanding/standar evaluasi. Dari perusahaan lain. Misalnya : Bell System menggunakan AT & T program stop rokok Evaluasi - pada bulan ke 3 -6. 12. - 70& perokok akan kambuh Standar Nasional Standar Regional Standar Internasional

THE CONTROLLED COMPARISON (QUASI-EXPERIMENTAL APPROACH) § § § § § Membandingkan kelompok intervensi dengan kelompok pembanding K. pembanding dari perusahaan lain yang mirip settingnya Kelompok 1. diberi pendidikan elemen PKP yang intensif, all out 2. Tidak diberi pendidikan ttg PKP masing-masing kelompok dibagi subkelompok berdasarkan karakteristik tertentu : umur sex pendidikan dll Contoh. Untuk hipertensi Kelompok 1. Deteksi & dirujuk untuk terapi di luar 2. penanganan di tempat kerja dengan obat 3. tidak di intervensi

STRUCTURAL MODEL LDL Cholesterol & Triglyceride reduction ; High nutrients balanced calories HDL Cholesterol increase Cardiovascular events Hypertension reduction Dynamic Physical Move Atherosclerosis reduction (and other chronic degenerative Diabetes Mellitus diseases) - reduction Obesity reduction Fresh air without smoke Other risk factors (minor) reduction, except age, sex, genetic 1. Combined risk reduction 2. Work Capacity increase 3. Health status increase

Logical Model for Evaluation of Implementation Stage of Workplace Health Promotion INPUT ACTIVIT Y OUTPUT 1 OUTPUT 2 EDUCATION • Curriculum development • Group training • Questionnaire with feedback • Appreciative consultation • Social marketing Contest Resources: Staffs Money Materials Time ORGANIZATION • Advisory Committee for • Leadership & partnership since planning stage • Local policy & regulation • Social support Standards selection ENVIRONMENT • Smoke free zone/segregated ventilation planning • Supply of heart healthy nutrition (high nutrition). • New catering contract & caterer • Exercise facilities & access Curriculum available Number of workers who attend the group training (% total) Policy & regulation available Exercise facilities’ adding and the access to those facilities is easier than before Increase proportion of workers who believe that the threat of CVD is serious; that it can happen to them with probability depends on their position in combined risk category; that the recommended actionsare effective to avert the danger, that they are capable to perform the recommended action s including overcoming barriers (e. g time, cost, etc) INFLUENTIAL FACTORS Management commitment, funding, socioeconomic factors, government support, community facilities, mass media & advertisement

Increase proportion of workers who practice recommen ded actions routine life style: as Eat high nutrient pyramid 1. 1. Vegetables 4 -5 X/d 1. 2. Fruits 4 -5 X/d 1. 3. Whole grains 3 -4 X/d INPUT ACTIVITY 1. 4. Beans, tahu, tempe 1 -3 X/d 1. 5. OUTCOME Fish, poultry, eggs, 1 -2 X/d 1. 6. Red meat sparingly (1 -2 X/w) 1. 7. Plant oils, e. g. canola, soy corn, olive, sunflower (1 -2 X/d 1. 8 Calories according to body weight in BMI 18. 5 – 22. 9 1. 9. Drink water/liquid approx. 8 glasses /d 2. Relax by Dynamic Body Move 2. 1. Cardio -fitness move: at least 30 min ea. ( 3000 steps) ; 3 X/w 2. 2. Muscular streng th move: 20 -30 min ea; 2 X/w 2. 3. Flexibility move (warm up & cool down): 10 min before and after 2. 1. and 2. 2. 3. Breathe in fresh air without smoke (Increase proportion of workers who do not smoke) Increase p roportion of workers whose biological indices (indirect indicators) are normal: 1. Body Mass Index: 18. 5 – 22. 9 OUTPUT 2. Physical Work Capacity: Male > 9. 75 METs Female > 8. 63 METs 3. LDL Chol. <130 mg/dl HDL Chol. >45 mg/dl Triglyceride < 200 mg/dl 4. Blood pressure < 120/80 mg/dl 5. Blood glucose 70 -110 mg/dl 6. Waist circumference: Male < 90 cm; female <80 cm *Increase proportion of green card holders (low combined risk category) among workers *Increase proportion of workers with adequate PWC Advisory Co mmittee leads implementation of local policy and regulations, social support, and acceptable standards Supply of high nutrient pyramid is implemented. Exercise facilities and accessibility are available. Reduction of morbidity and Segregated ventilation for smokers and smoke free zone for all are mortality implemented. of CVD and other chronic diseases INFLUENTIAL FACTO R: management commitment, funding, socioeconomic Reduction of sickness absenteeism factors, community facilities, government support, mass(LWDC) media & advertisement INITIAL -Reduce morbidity & mortality due to CVD and other chronic diseases -Reduce sickness absenteeism (LWDC) -Reduce medical cost GOAL Healthy workers in healthy company. Increase dynamism, innovation, creativity, togetherness, accomplishment, work performance, productivity, competitiveness, survival , well fare

Evaluation design of Quasi-experimental approach

THE CONTROLLED EXPERIMENTAL APPROACH § § Prosedur seperti uji klinik Seleksi acak : kelompok intervensi/tidak Masing-masing ada subkelompok Contoh : 4 Sub kelompok diberi pendidikan anti ca. payudara dengan metoda pendidikan yang berbeda § 2 sub kelompok tanpa intervensi (pendidikan setelah program selesai)

THE FULL BLOWN EVALUATIVE RESEARCH PROJECT § § § Kelompok tidak layak pada kebanyakan program PKP Model Evaluasi dikombinasi elemen program campuran Misalnya Kelompok 1 : rokok 2 : rokok & fitnes 3 : fitnes 4 : intervensi / program 5 : rokok, fitness, cholesterol, tensi Masing-masing kelompok ada sub kelompok berdasarkan umur, sex, etnis dll.