Showing posts with label AI. Show all posts
Showing posts with label AI. Show all posts

Thursday, February 6, 2025

Algorithmic Game Theory



This image illustrates the interdisciplinary academic foundations that are linked by algorithmic game theory. At the center of the triangle is algorithmic game theory, which is a field that combines tools and principles from multiple disciplines to analyze systems involving strategic interactions.

Key Areas and Their Interconnections:

  1. Statistics:

    • Provides foundational methods for analyzing data and modeling uncertainties.
    • Linked to machine learning for creating predictive models and algorithms.
  2. Machine Learning:

    • Involves algorithms that learn patterns and make predictions or decisions.
    • Connects statistics (for data insights) and computer science (for algorithm implementation).
  3. Computer Science:

    • Offers computational frameworks and algorithms necessary for implementing strategies.
    • Supports algorithmic game theory by providing the computational basis.
  4. Economics:

    • Explores human behavior, markets, and decision-making.
    • Ties to algorithmic game theory, which uses economic principles to study interactions and incentives.
  5. Econometrics:

    • Applies statistical methods to economic data for empirical validation.
    • Bridges economics and statistics.

Central Role of Algorithmic Game Theory:

Algorithmic game theory integrates these disciplines to study strategic behaviors in systems (e.g., auctions, markets, resource allocation). It applies algorithms to analyze and predict outcomes in systems where multiple entities interact with potentially conflicting objectives.

This diagram highlights how these fields are interconnected, with algorithmic game theory as a unifying hub.

Friday, January 31, 2025

Sekatan Teknologi ke Atas China Tidak Berkesan.

Pendahuluan.

Sekatan teknologi yang dikenakan oleh Amerika Syarikat (AS) ke atas China, terutamanya dalam eksport cip komputer berteknologi tinggi, sering dianggap sebagai strategi untuk mengekang kemajuan teknologi negara tersebut. Namun, kejayaan syarikat kecerdasan buatan (AI) China, **DeepSeek**, dalam menghasilkan model bahasa besar (LLM) yang kompetitif meskipun menghadapi sekatan, membuktikan bahawa langkah ini tidak berkesan. Malah, sekatan tersebut telah mencetuskan gelombang inovasi tempatan di China, mengubah halangan menjadi peluang untuk membangunkan teknologi alternatif yang lebih efisien.  

Kejayaan DeepSeek Menembusi Sekatan.

DeepSeek, syarikat AI yang berpangkalan di Hangzhou, berjaya mencipta **R1**, sebuah chatbot yang setanding dengan produk AS seperti ChatGPT, tetapi dengan kos pembangunan yang jauh lebih rendah (hanya AS$5.6 juta). Kejayaan ini dicapai meskipun AS menghalang akses China kepada cip terkini seperti H100 melalui sekatan eksport. Sebaliknya, DeepSeek menggunakan cip H800—versi lama yang masih dibenarkan dieksport sehingga akhir 2023—untuk melatih model AI mereka. Menurut pakar seperti Jeffrey Ding dari Universiti George Washington, sekatan ini memaksa syarikat China untuk mencipta algoritma lebih efisien, mengurangkan kebergantungan pada kuasa pengiraan tinggi. Ini menunjukkan bahawa sekatan teknologi tidak menghalang inovasi, malah mendorong pendekatan lebih kreatif.  

Polisi Sekatan Menjadi Pemangkin Inovasi China

Kisah kejayaan DeepSeek bukanlah yang pertama. Sebelum ini, syarikat gergasi teknologi China, **Huawei**, telah bangkit semula selepas sekatan AS dengan mengalihkan fokus kepada pembangunan sistem operasi HarmonyOS dan cip buatan sendiri. Polisi sekatan AS, yang bertujuan melambatkan kemajuan China, sebaliknya mencetuskan "kesan Sputnik"—istilah yang merujuk kepada kejutan teknologi Soviet pada 1957—di mana China membuktikan kemampuan mereka untuk mengejar bahkan menyaingi teknologi Barat. Seperti yang diakui Marc Andreessen, seorang pelabur terkemuka, kejayaan DeepSeek adalah "detik Sputnik" bagi AS, mendedahkan jurang strategi sekatan yang selama ini dianggap kukuh.  

Keterbatasan Sekatan dan Respons AS
 
Walaupun sekatan dilaksanakan untuk melindungi kepentingan teknologi AS, ia gagal menyekat kemajuan China dalam bidang AI. Malah, pakar seperti Samm Sacks dari Universiti Yale menegaskan bahawa kejayaan DeepSeek "menggugat anggapan lama" tentang keperluan kuasa pengiraan dan data yang besar untuk inovasi AI. Sebagai tindak balas, pentadbiran AS kini terpaksa mempertimbangkan langkah lebih radikal, seperti memperluas sekatan cip atau meningkatkan pelaburan domestik. Namun, seperti yang diingatkan Rebecca Arcesati dari MERICS, sekatan defensif semata-mata mungkin hanya akan mendorong lebih banyak negara untuk menyokong ekosistem AI China.  

Penutup

Sekatan teknologi AS ke atas China jelas tidak mencapai matlamat asalnya. Sebaliknya, ia menjadi pemangkin kepada inovasi tempatan yang lebih mampan dan efisien. DeepSeek dan Huawei adalah bukti nyata bahawa sekatan bukanlah penyelesaian untuk mengekang kemajuan teknologi sesebuah negara. Sebaliknya, AS perlu mengimbangi strategi dengan memperkukuh daya saing domestik sambil mengelakkan langkah yang boleh mencetuskan perlumbaan teknologi yang tidak sihat. Dalam dunia yang saling berkait, kerjasama dan persaingan sihat mungkin lebih efektif daripada sekatan sepihak yang hanya melahirkan lebih banyak "detik Sputnik".  

Rumusan

Kegagalan sekatan AS dalam menghalang kemajuan teknologi China mengajar kita bahawa inovasi tidak dapat dibendung melalui halangan politik. Sejarah membuktikan bahawa teknologi bersifat universal—sekatan hanya mempercepatkan proses penyesuaian dan kreativiti. Bagi mengekalkan kepimpinan global, negara perlu fokus pada pembangunan kapasiti sendiri, bukan sekadar menyekat kemajuan pihak lain.

Sputnik

**Sputnik** refers to the world's first artificial satellite, **Sputnik 1**, launched by the Soviet Union on **October 4, 1957**. Here's a detailed overview:

### Key Facts:
- **Name Meaning**: "Sputnik" translates to "satellite" or "fellow traveler" in Russian.  
- **Design**: A polished metal sphere (58 cm/23 inches in diameter) with four external antennas, weighing **83.6 kg**.  
- **Launch Vehicle**: Carried into orbit by an **R-7 Semyorka** rocket from Kazakhstan.  

### Mission Details:
- **Orbit**: Circled Earth every **98 minutes** at an altitude of about 250 km (155 miles).  
- **Signals**: Transmitted radio pulses at **20.005 and 40.002 MHz**, detectable globally for **21 days** until its batteries died.  
- **Duration**: Remained in orbit for **3 months** before burning up on re-entry.  

### Historical Context:
- **Cold War**: Marked the start of the **Space Race** between the USSR and the US, intensifying Cold War rivalry.  
- **International Geophysical Year**: Part of a global scientific initiative to study Earth and space phenomena.  

### Impact:
- **Sputnik Crisis**: Prompted the US to establish **NASA** (1958) and boost investments in STEM education and technology.  
- **Military Implications**: Demonstrated Soviet rocket capability, raising concerns about intercontinental ballistic missiles (ICBMs).  
- **Legacy**: Catalyzed advancements in space exploration, leading to milestones like the **Apollo Moon landings**.  

### Follow-Up Missions:
- **Sputnik 2** (November 3, 1957): Carried **Laika**, the first living creature (a dog) in orbit.  

### Cultural Significance:
- Symbolized technological prowess and shifted global perceptions of scientific leadership.  
- Visible from Earth, its "beep" became an iconic sound of the Space Age.  

Sputnik 1 remains a landmark achievement, reshaping geopolitics, science, and humanity's journey into space.

Wednesday, January 29, 2025

Temubual dengan pendiri DeepSeek

**Bahagian 1: Persaingan Harga dan Jurang Teknologi**  
**Waves:** Dari luar, pemotongan harga kelihatan seperti usaha merebut pengguna, seperti yang biasa berlaku dalam perang harga era internet.  

**Liang Wenfeng:** Merebut pengguna bukan tujuan utama kami. Kami menurunkan harga kerana, pertama, kos kami menurun semasa meneroka seni bina model generasi seterusnya. Kedua, kami percaya API dan AI perlu diakses dan mampu dimiliki oleh semua.  

**Waves:** Sebelum ini, kebanyakan syarikat China menggunakan seni bina Llama untuk aplikasi. Mengapa anda mula dari struktur model?  

**Liang Wenfeng:** Jika tujuannya hanya untuk aplikasi, menggunakan Llama adalah masuk akal. Tetapi destinasi kami ialah AGI (Kecerdasan Umum Buatan), jadi kami perlu mengkaji struktur model baru untuk mencapai keupayaan lebih tinggi dengan sumber terhad. Ini asas untuk model lebih besar. Selain itu, kecekapan latihan dan kos inferens Llama dianggarkan ketinggalan dua generasi berbanding teknologi antarabangsa.  

**Waves:** Dari mana jurang generasi ini berasal?  

**Liang Wenfeng:** Pertama, jurang kecekapan latihan. Keupayaan terbaik China mungkin memerlukan dua kali ganda kuasa pengiraan untuk hasil sama seperti teknologi antarabangsa. Kedua, jurang kecekapan data: kami perlu dua kali ganda data dan kuasa pengiraan. Gabungannya, kami perlukan empat kali ganda kuasa pengiraan. Tugas kami ialah menutup jurang ini.  

---

**Bahagian 2: Jurang Sebenar Bukan 1-2 Tahun, Tetapi Inovasi vs. Tiruan**  
**Waves:** Mengapa DeepSeek V2 mengejutkan Silicon Valley?  

**Liang Wenfeng:** Mereka terkejut kerana syarikat China menyertai permainan inovasi. Kebanyakan syarikat China hanya ikut trend, bukan mencipta.  

**Waves:** Tapi inovasi di China sangat mahal. Mengapa anda fokus pada penyelidikan, bukan komersialisasi?  

**Liang Wenfeng:** Kos inovasi tinggi, tetapi masalah China bukan kekurangan modal, tetapi keyakinan dan cara mengatur bakat untuk inovasi berkesan. Ekonomi China cukup besar—kini masanya untuk menyumbang, bukan sekadar menumpang.  

**Waves:** Syarikat gergasi seperti ByteDance dan Tencent lebih utamakan komersialisasi. Mengapa?  

**Liang Wenfeng:** Selama 30 tahun, kami hanya fokus pada keuntungan, mengabaikan inovasi. Inovasi memerlukan rasa ingin tahu dan hasrat mencipta—ini berkait dengan tahap ekonomi tertentu.  

**Waves:** Bagaimana anda membina "parit" (kelebihan kompetitif) jika inovasi anda dibuka sumber?  

**Liang Wenfeng:** Parit tertutup hanya sementara. Nilai kami terletak pada pasukan—rakan sekerja berkembang, mengumpul pengetahuan, dan membentuk budaya inovasi. Ini parit sebenar kami.  

---

**Bahagian 3: Lebih Banyak Pelaburan ≠ Lebih Banyak Inovasi**  
**Waves:** Adakah anda akan tutup sumber seperti OpenAI?  

**Liang Wenfeng:** Tidak. Kami percaya ekosistem teknikal kuat lebih penting.  

**Waves:** Ada rancangan pembiayaan atau IPO?  

**Liang Wenfeng:** Tiada rancangan pembiayaan jangka pendek. Masalah utama kami bukan modal, tetapi sekatan cip AS.  

**Waves:** Kenapa tidak fokus pada aplikasi?  

**Liang Wenfeng:** Tahap ini adalah ledakan inovasi teknologi, bukan aplikasi. Kami ingin cipta ekosistem di mana industri gunakan teknologi kami. Jika perlu, kami boleh bangunkan aplikasi, tetapi keutamaan tetap pada inovasi.  

**Waves:** Mengapa pelanggan pilih DeepSeek berbanding syarikat besar?  

**Liang Wenfeng:** Masa depan akan ada pembahagian tugas khusus. Syarikat besar mungkin tidak paling sesuai untuk inovasi berterusan.  

---

**Bahagian 4: Pasukan Muda dengan Budaya Inovasi**  
**Waves:** Siapa di sebalik DeepSeek V2?  

**Liang Wenfeng:** Kebanyakannya graduan universiti terkemuka, calon PhD, dan anak muda berusia 20-an. Tiada "ahli silap mata"—hanya bakat tempatan yang dilatih sendiri.  

**Waves:** Bagaimana inovasi MLA tercetus?  

**Liang Wenfeng:** Idea berasal dari minat peribadi penyelidik muda. Proses pelaksanaan mengambil masa berbulan dengan kerjasama pasukan.  

**Waves:** Bagaimana struktur pengurusan longgar ini berfungsi?  

**Liang Wenfeng:** Semua boleh akses GPU atau bekerjasama tanpa hierarki. Kami cari bakat berasaskan semangat dan rasa ingin tahu—bukan pengalaman tradisional.  

**Waves:** Adakah inovasi bergantung pada nasib?  

**Liang Wenfeng:** Inovasi bermula dengan keyakinan. Lembah Silikon berani mencuba—di China, keyakinan ini kurang. Kami percaya generasi muda akan ubah ini.  

---

**Bahagian 5: Semua Kaedah Lama Akan Usang**  
**Waves:** Apa fokus utama anda kini?  

**Liang Wenfeng:** Menyelidik model generasi seterusnya. Masih banyak masalah belum selesai.  

**Waves:** Bagaimana dengan model keuntungan masa depan?  

**Liang Wenfeng:** Corak perniagaan lama tidak relevan. Bincang model keuntungan AI dengan logik internet seperti "menjual ais semasa Zaman Batu"—ia tidak berguna.  

**Waves:** Adakah ekonomi lemah akan sekat penyelidikan asas?  

**Liang Wenfeng:** Tidak. Penstrukturan semula industri China akan lebih bergantung pada inovasi teknologi. Apabila peluang cepat kaya hilang, orang akan lebih fokus pada inovasi sebenar.  

**Liang Wenfeng (kesimpulan):**  
"Saya dibesarkan di bandar kecil Guangdong. Dulu, ramai percaya belajar tidak berguna. Tapi kini, mereka sedar peluang mudah sudah tiada. Masa depan milik inovasi keras—kami perlu contoh dan proses pendidikan sosial."  

---  
*Diterjemahkan dari wawancara asal oleh Liang Wenfeng, CEO DeepSeek, dalam chinatalk.media.*

Monday, November 25, 2024

Ulasan Buku "Competing in the Age of AI"

Buku Competing in the Age of AI oleh Marco Iansiti dan Karim R. Lakhani adalah panduan penting untuk memahami bagaimana kecerdasan buatan (AI) mengubah strategi perniagaan dan kepimpinan dalam era digital. Buku ini diterbitkan oleh Harvard Business Review Press, membincangkan cara algoritma dan rangkaian mengubah landskap ekonomi dan organisasi.

Beberapa aspek menarik yang diketengahkan:

1. Model Perniagaan yang Didorong AI: Buku ini menekankan bagaimana syarikat yang berasaskan data dan algoritma dapat meningkatkan skala operasi dengan cepat, berbanding model tradisional yang terhad oleh struktur fizikal.


2. Disrupsi Pasaran: Penulis menerangkan bagaimana AI mencipta peluang baru dan mengganggu sektor tradisional, memaksa pemimpin untuk menyesuaikan diri dengan pantas.


3. Kepimpinan dan Inovasi: Marco dan Karim menegaskan pentingnya membina organisasi yang berorientasikan data, memanfaatkan AI bukan sahaja untuk automasi tetapi untuk mencipta nilai baharu.


4. Kajian Kes: Buku ini menggunakan contoh-contoh syarikat seperti Amazon, Google, dan pelbagai firma lain untuk menunjukkan bagaimana mereka mengintegrasikan AI ke dalam strategi utama mereka.



Buku ini sangat relevan untuk pemimpin perniagaan, pakar teknologi, atau sesiapa yang ingin memahami peranan AI dalam memacu transformasi digital. Ia juga memberikan wawasan mendalam tentang cara AI mengubah struktur ekonomi global dan memberi panduan praktikal untuk memimpin dalam dunia yang semakin dikuasai teknologi.


Saturday, November 9, 2024

AI Universe

Infografik ini menerangkan konsep The AI Universe dan membahagikannya kepada beberapa lapisan utama, bermula dari Artificial Intelligence (AI) di bahagian luar hingga ke Generative AI di bahagian paling dalam. Setiap lapisan menggambarkan komponen atau teknologi yang berkaitan dengan AI dan bagaimana mereka berhubung antara satu sama lain.

1. Artificial Intelligence (AI)

Lapisan paling luar menunjukkan bidang keseluruhan AI yang merangkumi pelbagai sub-bidang utama:

Planning and Scheduling: Mengurus dan menjadualkan pelbagai tugas atau operasi.

Natural Language Processing (NLP): Berurusan dengan pemahaman dan penghasilan bahasa manusia.

Computer Vision: Mengenal pasti dan menganalisis imej dan video.

Knowledge Representation: Menyusun dan menyimpan maklumat untuk kegunaan komputer.

Expert Systems: Sistem yang menyerupai keupayaan menyelesaikan masalah seperti pakar manusia.

Speech Recognition: Menukar suara ke dalam teks.

Robotics: Penggunaan AI dalam pergerakan dan interaksi mesin dengan dunia fizikal.

Cognitive Computing: Menggunakan model komputer untuk menyelesaikan masalah kognitif.

Automated Reasoning and Fuzzy Logic: Menggunakan logik samar untuk membuat keputusan yang lebih fleksibel.



2. Machine Learning (ML)

Lapisan kedua dalam lingkaran AI, Machine Learning ialah subset AI yang memberi tumpuan pada pembelajaran dari data. Komponen utama dalam lapisan ini termasuk:

Dimensionality Reduction: Mengurangkan kompleksiti data untuk analisis lebih mudah.

Decision Trees dan Support Vector Machines: Algoritma pembelajaran.

Reinforcement Learning: Pembelajaran berasaskan ganjaran.

Classification dan Regression: Teknik untuk mengklasifikasikan dan meramalkan data.

Ensemble Learning: Menggabungkan pelbagai model untuk meningkatkan prestasi.

Unsupervised, Supervised, and Semi-supervised Learning: Kaedah pembelajaran dengan tahap pengawasan berbeza.



3. Neural Networks

Lapisan ketiga menumpukan pada rangkaian neural, yang merupakan asas kepada banyak teknik pembelajaran mendalam:

Perceptrons: Unit asas dalam neural networks.

Multi-Layer Perceptron (MLP): Rangkaian neural berbilang lapisan.

Convolutional Neural Networks (CNNs) dan Recurrent Neural Networks (RNNs): Jenis neural network khusus untuk imej dan data berurutan.

Activation Functions: Fungsi yang menentukan output setiap neuron dalam rangkaian neural.

Backpropagation: Algoritma yang digunakan untuk melatih neural networks.



4. Deep Learning

Lapisan keempat memfokuskan kepada pembelajaran mendalam, subset Machine Learning yang menggunakan neural networks dengan lapisan berbilang:

Generative Adversarial Networks (GANs): Model yang mengandungi dua rangkaian neural yang bersaing untuk menghasilkan data yang realistik.

Deep Reinforcement Learning: Gabungan pembelajaran mendalam dan reinforcement learning.

Transfer Learning: Teknik yang membolehkan penggunaan model terlatih untuk tugas baru.

Self-attention Mechanism: Mekanisme penting dalam model bahasa dan rangkaian neural yang canggih.

Capsule Networks dan Dropout: Teknik untuk meningkatkan ketahanan model dan mencegah overfitting.

5. Generative AI

Lapisan paling dalam mewakili teknologi yang boleh menjana kandungan seperti teks, imej, atau suara:

Language Modeling dan Transformer Architecture: Model yang menguasai bahasa dengan memahami konteks.

Self-attention Mechanism: Teras dalam transformer models yang mengira perkaitan antara kata-kata.

Natural Language Understanding (NLU) dan Summarization: Pemahaman bahasa untuk aplikasi seperti terjemahan, dialog, dan ringkasan teks.

Dialogue Systems: Digunakan dalam chatbot dan interaksi AI dengan pengguna.

Kesimpulan

Infografik ini menunjukkan struktur bertingkat dalam dunia AI, bermula dari konsep luas AI kepada teknologi canggih dalam Generative AI. Setiap lapisan mempunyai peranan dan teknologi khusus, yang semuanya menyumbang kepada perkembangan dan penggunaan AI dalam pelbagai bidang.