Lo recomendable primero es actualizar la versión de NodeJS a la 8 o superior. Se puede descargar los paquetes de instalación desde:

https://nodejs.org/en/download/

Con la instalación nos vendrá la nueva versión de npm (5.6)

Para actualizar Angular CLI ejectuar los siguientes comandos:

1) npm uninstall -g angular-cli @angular/cli (lo desinstala de manera global)

2) npm cache clean (npm <5) / npm cache verify (npm >5) 

3) npm install -g @angular/cli@latest

Luego hay que ubicarse en el proyecto que queremos actualizar:

4) rd /S/Q node_modules dist (para borrar ambas carpetas)

5) npm install @angular/cli@latest

6) ng update @angular/cli (para actualizar el formato del archivo de configuración del cli a angular.json)

Actualizar todos los paquetes del framework:

7) Cambiar en el archivo package.json a las siguientes versiones:
"dependencies": {
  "@angular/animations": "^6.0.0",
  "@angular/common": "^6.0.0",
  "@angular/compiler": "^6.0.0",
  "@angular/core": "^6.0.0",
  "@angular/forms": "^6.0.0",
  "@angular/http": "^6.0.0",
  "@angular/platform-browser": "^6.0.0",
  "@angular/platform-browser-dynamic": "^6.0.0",
  "@angular/router": "^6.0.0",
  "rxjs": "^6.0.0",
  ...
}
"devDependencies": {
  "@angular/cli": "^6.0.1",
  "@angular/compiler-cli": "^6.0.0",
  "@angular/language-service": "^6.0.0",
  "typescript": "~2.7.2",
  ...
}

7) ng update @angular/core

8) ng update @angular/material

Actualizar el resto de los paquetes:

9) npm install

Con estos comandos debería quedar actualizado el proyecto a Angular 6.0