Puedes hacer esto con sudo update-alternatives:
# Adding a new alternative for "java".
sudo update-alternatives --install /usr/bin/java java /media/mydisk/jdk/bin/java 1
# Setting the new alternative as default for "java".
sudo update-alternatives --config java
También debe hacer esto para otros componentes jdk. Estos componentes son appletviewer, extcheck, idlj, jar, jarsigner, java, javac, javadoc, javah, javap, javaws, jconsole, jdb, jexec, jhat, jinfo, jmap, jps, jrunscript, jsadebugd, jstack, jstat, jstatd, keytool, mozilla-javaplugin.so, native2ascii, orbd, pack200, policytool, rmic, rmid, rmiregistry, schemagen, serialver, servertool, tnameserv, unpack200, wsgen, wsimport, xjc.
Para más información, se puede ver las páginas man para update-alternatives: man update-alternatives.
El comando update-java-alternativesestablece alternativas para los componentes de Java y parece que sirve update-alternativespara esto.
EDITAR: La respuesta anterior se dirige a Java 6.
- Para Java 7, debe agregar
jcmda la lista de Java 6.
- Para Java 8, hay que añadir
jcmd, jjsy jdepsla lista de Java 6.
- Para Java 9, hay que añadir
jcmd, jjs, jdepsy jshellde la lista de Java 6.