Si bien hay dos respuestas excelentes que le dicen cómo hacerlo, creo que falta otra respuesta: en la mayoría de los casos, no debería hacerlo en absoluto.
Las matrices son engorrosas, en la mayoría de los casos es mejor usar la API de colección .
Con Colecciones, puede agregar y eliminar elementos y hay Colecciones especializadas para diferentes funcionalidades (búsqueda basada en índices, clasificación, singularidad, acceso FIFO, concurrencia, etc.).
Si bien, por supuesto, es bueno e importante conocer las matrices y su uso, en la mayoría de los casos, el uso de colecciones hace que las API sean mucho más manejables (razón por la cual las nuevas bibliotecas como Google Guava apenas usan matrices).
Entonces, para su escenario, preferiría una Lista de Listas, y la crearía usando Guava:
List<List<String>> listOfLists = Lists.newArrayList();
listOfLists.add(Lists.newArrayList("abc","def","ghi"));
listOfLists.add(Lists.newArrayList("jkl","mno","pqr"));