מקורותיו של משחק השחמט לוטים בערפל ושנויים במחלוקת, והמצאתו יוחסה לאימפריות שונות של העולם העתיק בסין, בהודו, מצרים או פרס. ככל הנראה, מוצאו של השחמט ממשחק הלוח ההודי צ'טורנגה, שנדד וזכה לווריאציות שונות במזרח כמו שיאנג-צ'י בסין, שוגי ביפן, ג'נגי בקוריאה ומקרוק בתאילנד ובקמבודיה. גרסה אחרת שתומך בה דייוויד ה. לי טוענת שמקור השחמט המודרני במשחק הסיני שיאנג-צ'י שהומצא, לפי גרסה זו, בסין במאה ה-2 לפנה"ס. טענות שונות כאילו שורשו של המשחק עתיק בהרבה שגויות ככל הנראה. התפשטותו המהירה החלה מן המאה השביעית, ללא אזכורים כלשהם בספרות לפני כן, המעידים על כך שהומצא קרוב לתקופה זו.
בסביבות שנת 1200 חוקי משחק שונים החלו להופיע באירופה הדרומית ובסביבות שנת 1475 נכנסו לשחמט כמה שינויים גדולים והפכו אותו למשחק המוכר כיום. לפי סברה אחת מקור החוקים החדשים הוא באיטליה ואילו לפי סברה אחרת בספרד. השינויים היו כדלקמן: הרגלים קיבלו אפשרות לדלג מעל משבצת אחת במסעם הראשון ולהכות את רגלי היריב דרך הילוכו. גם הרצים והמלכות קיבלו את מאפייניהם המודרניים. החוקים החדשים התפשטו במהירות ברחבי אירופה המערבית והתקבעו סופית בראשית המאה ה-19.
תחרות מקצועיות בינלאומית בשחמט נערכה בלונדון ב-1851 וניצח בה אדולף אנדרנסן. כוכבים נוספים החלו להופיע בשמי השחמט. בתחרות שנערכה בשנת 1886 נהוג לראות את התחרות הראשונה לתואר אליפות העולם בשחמט. האלוף הראשון היה וילהלם שטייניץ. מאז משחק השחמט נותר ללא שינויים גדולים עד שנת 1993 שבה אלוף העולם דאז, גארי קאספרוב, ניתק את יחסיו עם פיד"ה ונוצר משבר בעולם השחמט, אך הוא נותר בירוקרטי בעיקרו.