1991年，太阳微系统公司（Sun Microsystems）的詹姆斯·高斯林（James Gosling）领导一个小团队开发一种用于消费电子设备（如有线电视盒、家用电器）的编程语言。这个项目最初叫做“Green”，目标是为各种嵌入式设备创建统一的编程平台。

高斯林最初考虑扩展C++，但很快发现C++在嵌入式环境中的问题：内存管理复杂、指针容易出错、不同平台的二进制不兼容。他决定创建一种全新的语言，最初命名为“Oak”（橡树，因为他办公室窗外有一棵橡树），后因商标冲突改名为Java。

1995年，Java正式发布。当时互联网正在兴起，Java的“一次编写，到处运行”（Write Once, Run Anywhere，WORA）理念立即引起了广泛关注。网景公司（Netscape）在其Navigator浏览器中集成了Java支持，这极大地推动了Java的普及。